20160105_01_02_s

TRIギル・プラットCEOの自動運転の説明が分かりやすい

先日、ラスベガスで開催された展示会 CES 2017で、トヨタの先端研究機関 Toyota Research Insutituteのギル・プラットCEOが、自動運転の現状についての講演を行いました。

その内容が、現在の自動運転の問題を的確に表現していて、とても参考になったので紹介します。
(CESプレスカンファレンス)
その問題とは、自動運転を実現する技術の問題では無くて、自動運転を受け入れる人間の意識の問題についてです。

人間のミスは許せても、機械のミスは許せない「人間」

人間は自動車を運転すると、自分一人では起こりませんが、何千万台もの交通の中では統計的に事故が起こります。それは、自動運転になっても、不確実性要因がゼロにならない限り、事故もゼロにはならないでしょう。

それを考慮した際の人間の意識の問題について、ギル・プラット氏はこう述べています。
昨年、米国の高速道路では、ドライバーによって操作されたクルマが起こした事故により約3万5千人の死傷者が発生しました。どの死傷事故も悲劇的な出来事です。

では、「人間と同じくらいの安全性」を担保できる完全自動運転車をつくったとしたら、それは十分に安全と言えるでしょうか。言い換えれば、より便利・快適で、渋滞も少なくなり、環境負荷を低減できたとしても、私たちは「機械」により米国でもたらされる年間3万5千人の死傷事故を許容するでしょうか。

合理的に考えれば、答えは「イエス」かもしれません。しかし、心情的には、「人間と同じくらいの安全性」は許容されないと私たちは考えています。

それでは、自動運転が人間よりも2倍安全で、毎年1万7500人の死傷事故が起こるだけになったらどうでしょうか。そのような自動運転を許容できるでしょうか。

歴史的に、人々は、機械の不具合によるケガや死亡を一切許容しないということが示されています。そして、自動運転車の性能を左右する人工知能システムは、現時点では不完全であることが避けられないことを私たちは理解しています。
 「2倍安全で」という表現は、テスラのイーロン・マスク氏の発言を意識していると思います。マスク氏は、テスラの初期ソフトウェアでさえ、人間の運転より2倍安全と2016年に言っています。
自動運転をオンにすると、事故に遭う可能性は50%少なくなります。これは、(ソフトウェアの)最初のバージョンでもこの数値です。同様に、1件の事故が発生するキロメートル数を把握することも可能です。事故とは、エアバッグが展開するような出来事のことを指します。初期ソフトウェアバージョンにおいてさえも、人間が運転する際の2倍の安全性になっています。
「テスラの自動運転は事故に遭う割合を50%低下させている」とイーロン・マスク氏がその恩恵を語る
自動運転は不安だ、というイメージを払拭する為に「人間より2倍安全」と表現したのでしょうが、自動運転車(=機械)に乗車中に事故に遇うという事実は、客観的には受け入れられても、主観的には心理的に受け入れられないのかもしれません。

自分は、、、自分自身の怪我までなら受け入れられると思いますが、家族が怪我したり、命を落としたりしたら受け入れられないでしょうね。

機械の「トロッコ問題」への回答を許容できるか 

同じく、これは「トロッコ問題」にも通じる話です。
トロッコ問題とは、線路を走るトロッコが制御不能で止まれなくなり、そのまま走ると線路の先の5人の作業員を轢いてしまうが、線路の分岐点で進路を変えると、その先の1人の作業員を轢いてしまうとき、進路を変えることが正しいか否か、といった思考実験だ。

これを自動運転自動車に応用すると、たとえば、道路が突然陥没し、ブレーキをかけても間に合わず、直進すれば穴に落ちて搭乗者が死んでしまうというときに、方向転換すれば助かるが、その先にいる5人の小学生を轢いてしまうという場合、自動車の人工知能はどちらを選択すべきか、という問題になる。
記事引用:BOLOGOS 2015年11月02日完全自動運転自動車とトロッコ問題について
この様な話しも、技術問題では無く、倫理問題になってきます。

そんな倫理的な判断も含めて、完璧な自動運転ソフトウェアを自動車会社が作れるでしょうか。

それは無理ですよね。上記の様な緊急時において、全ての関係者の心情、宗教、倫理感を満たす判断は不可能だと思います。

機械がギブアップした瞬間に、人間はバトンを受け取れるか

上記の事例は完全自動運転、レベル4を想定していますが、限定的な自動運転であるレベル2、3においても、ちょっと性質は違いますが、人間に起因する問題提起をしています。

自動運転レベル2では、ペダル操作(加速・減速)やステアリング操作(コーナーリング、車線変更)を組み合わせた、言わば高速道路での運転の自動化を想定していますが、自動運転では対処できないような異常時には、すぐに人間が運転を代わる必要があります。

そんなことが長時間の運転で、継続的に待機できるだろうか、という問題提起です。
心理学者のノーマン・マックワースは、1948年に「The breakdown of vigilance during prolonged visual search」(「長時間の視覚捜索における注意力の衰弱」)と題する論文を執筆しました。

彼の実験では、秒針だけを持ち、時折ランダムに2秒を刻む時計を使用しました。実験で明らかになったことは、その時計をじっと見続けていた場合、長く見続けるほど、時折起こる2秒間の秒針刻みに気づく能力は減少するということでした。

ではここで、先ほどお伝えしたように、会場のみなさんにも20秒間の簡単な「テスト」をしてもらいます。

マックワース時計の動きを注意深く見てください。そして、時計が1秒ではなく2秒を刻むごとに、手を叩いてください。それではいきましょう。

(テスト結果)

これを2時間やり続けるとしたら結果はどうでしょうか。レベル2の自動運転が運転を引き渡してくるかもしれないことに備えて、注意力を維持し続けられるでしょうか。
このような事例に加えて、支障なく自動運転が継続された時の、人間の性質にも述べています。
ドライバーは、システムを過小にしか信頼しないか、過剰に信頼するか、どちらかだと示唆するデータもあります。レベル2システムの能力を過剰に信頼するとき、ドライバーは運転環境へ注意を払う意識を無くしてしまい、実際の能力以上のことをレベル2システムが対応できると誤って考えるようになってしまいます。

私たちは、システムがドライバーに運転を引き渡す必要がないことが続くほど、過剰信頼の意識が強くなっていくことを懸念しています。逆説的なことですが、システムに問題がなくドライバーへの運転引き渡しが発生しないほど、過剰信頼の傾向は悪化しうるのです。
 テスラのAuto Pilotで起きた事故(横断するトレーラーに衝突した件)は、Auto Pilot機能を過剰に信頼したドライバーが前方への注意を怠って起きたものだったので、皮肉にも上記の説明に合致します。

という意見はあるものの私個人的には、自動でない運転でも2時間は普通にできるので、ある程度の操作を自動車側に委ねるのは可能ではないか、と考えています。

自動でない運転を長時間続けると手足のだるさなどが出てきて、注意散漫につながります。レベル2では操作軽減により疲労は少ないでしょうし、会話ソフトなどによる気分転換などによるリフレッシュなども技術的には可能だと思います。

長い議論を経ないと、レベル4は難しいことは確か

完全自動運転の話しに戻りますが、こういう倫理的な判断は、一朝一夕には結論が出ません。現段階の不完全さを許容しつつ、議論を経て自動運転技術の発展を見守る必要があると思います。

自動車が人類に許容されているのは、交通事故の現実を認識しつつも、移動の自由のメリットのほうが大きいことが理解されているから。

自動運転技術も、徐々に危険性と技術がもたらすメリットが認識され、広く許容されるのではないかと思います。