おいくつですかって聞かれそうなタイトルしてますけども。
先日、某ファミリーレストランでランチをとったときのことです。

ランチセットとドリンクバーを注文し、ドリンコバーコーナーでアイスコーヒーを入れていました。
ふと、後ろで誰かが動く気配を感じ、何気なく振り返るとそこには――

「は？　ロボット？」

はい。ロボットがいたんです。
しかも、某お掃除ロボットのような、猫が載れるくらいのお手軽サイズではありません。
高さ１２０ｃｍ程度でしょうか、小学生ぐらいの子どもと同じほどの背丈（？）でした。

それが斜行しながらも、障害物やヒトをうまく避けて、厨房へと入っていきました。

ファミリーレストランなんて久しぶりなんで、まさかそんなロボットが活躍しているなんて思ってもみませんでした。

きっと普通の人なら、『すごーい、未来的ー』とか『ロボット？　何をしてるんだろう？』と思うことでしょう。
家族連れの子どもたちも、きっと好奇心をそそられることと思います。
が、もはや普通の人を捨ててしまった私が、最初に思ったことはこちらです。

『センサーどこだ？　床下は難しそうだし天井？　足元だと蹴ったりしたらマズいし……』

真面目か。
ランチタイムぐらい、仕事から離れましょう？

ですが、そのような配膳ロボット（その後の観察で注文の料理を運ぶロボットだと確認しました）などのコンピュータは、仕事として今まで携わったことがありません。
エンベデッドシステムスペシャリストを取るときに、『電気とは？』からみっちり自力で調べ上げましたが、座学と現場は違います。

例えば、配膳を行うロボットには、人に危害を加える可能性はないように思うかもしれません。
しかし、たまたまロボットが熱々のお鍋や鉄板を配膳していて、たまたま近くのお客さんがフォークを落とし、たまたまロボットが転倒してしまったらどうなるでしょうか？
配膳していたお鍋や鉄板が、たまたま近くのお客さんに襲い掛かるかもしれません。

その結果何が起こるでしょうか？
料理がぐちゃぐちゃになるとか、ロボットが壊れるなんてことは、作った人には申し訳ないですが、些細な事です。
一番の問題は、お客さんに大けがをさせてしまうということです。

それはきっと、何億回の配膳に１回しか起こらないようなレアケースかもしれません。
ですが、１回でもお客さんに大けがを負わせてしまったら、そのロボットは２度と使われないでしょう。
そしてそのお客さんも、２度と食事をしに来てくれないでしょう。

また、ニュースになれば、他の人も来店してくれなくなるかもしれません。
売上も当然落ちます。経営は悪化し、赤字に陥るかもしれません。
最悪、リストラや、チェーン店の一部閉鎖なども考えられます。
人件費を削減するために導入したはずのロボットが、結果として更なる人件費削減の原因になる。
こんな皮肉な結末は、誰も望んでいません。

もちろん、そうならないための様々な仕掛けが、ちゃんと用意されているはずです。
例えば、配膳する料理を置く棚を低い位置にすると、ちょっと取りにくくなるかもしれませんが、お客さんに飛びかかる確率を大きくさげることができます。
また、スライド式のドアのようなもので、到着するまで外に飛び出さない構造にする対策も考えられます。
可動部を増やすと機械としての故障率は上がってしまいますが、人間が大けがするよりはよっぽどマシです。

一方で、ビジネスの観点からすると、『どこまで責任を持つのか』というのが出てきます。
時間は有限です。お金も有限です。
ですので、『これ以上の事態は腹をくくる』という割り切りが、どこかで必要になります。

じゃあ、それはどこなのか。
これがたぶん、現場に触れないと分からない『感覚』なんですよね。
恐らく、どの参考書や読み物でも、その分水嶺を明言している資料はないと思います。

かといって、ロボット開発の現場に乗り込むかというと、それも根本的な解決になっていない気がします。
『経験しないと作れない』ようでは、個人事業主としてはやっていけません。
直接の経験がなくても、他の経験を元に、様々な信頼できるデータをプラスして、できる／できないを判断していかなければいけません。
ここはきっと、個人事業主が腹をくくる部分ですね。

さて、巷はゴールデンウィーク最終日。明日から、また普段の日々が戻ってきます。
感染症の扱いも格下げになりますし、「コロナ禍」以前の「日常」も、一緒に戻ってくるのかもしれません。

一方で、先日のG7デジタル相会合などでも議題になった『信頼できるAI』など、新たな問題も表面化してきています。
各国の立場が違うなどと報道されていましたが、そもそも問題の本質をちゃんと理解できている国がどれだけあったのか。
テレビのニュースを見ながら、まだまだ先は長そうだと感じていました。

ちなみに、前回の記事でも書いた通り、そもそも私は『AIなんて信頼できない』という考えです。
何を教え込まれてるか、分かったもんじゃないですからね。

それでは、機械は信頼できるがAIは信頼できない、山本慎一郎でした。