近未来の移動手段として期待が集まる自動運転技術ですが、その安全性を揺るがす衝撃的な事実が明らかになりました。2018年3月18日21時58分ごろ、米国アリゾナ州テンペでウーバー・テクノロジーズ社の開発車両が歩行者をはねる死亡事故が発生したのです。当時はテストドライバーが動画視聴に熱中していた点ばかりが世間の注目を集め、SNSでも「人間の油断が招いた人災だ」という怒りの声が相次ぎました。しかし、2019年11月5日に米運輸安全委員会（NTSB）が公表した調査報告書は、全く異なる本質的な原因を突き付けています。
事故の主因は、ドライバーの脇見ではなく、自動運転システム（ADS）の脳にあたる「判断系」の深刻な設計ミスにありました。事故車両には、レーザー光で周囲の立体的な形を捉える「LiDAR（ライダー）」や高性能カメラが搭載されており、周囲の物体を検知する機能は正常に働いていたのです。それにもかかわらず、システムは道路を横断する歩行者を衝突の直前まで正しく認識できませんでした。最先端のセンサーが捉えた情報を、AIが正しく処理できないという致命的なエラーが起きていたのです。
AIの判断を狂わせた「車道に人はいない」という思い込み
なぜシステムは歩行者を見落としたのでしょうか。原因の1つは、車道上には歩行者が存在しないという前提で、AIの計算手順（アルゴリズム）が組まれていたことです。システムは衝突の5.6秒前に物体を捉えていましたが、車道だったため「自動車」や「自転車」と無理に分類しようとし、判断が激しく揺らいでいました。さらに最悪なのは、分類が変わるたびに「別の新しい物体が現れた」と認識する仕様だった点です。位置や速度のデータがリセットされたため、接近する歩行者を「静止物」だと誤認し続けました。
衝突のわずか1.2秒前にようやく危険を察知したものの、ブレーキが間に合うはずもありませんでした。SNSでは「これでは最先端の技術ではなく、ただの盲目な機械だ」と、システムの未熟さに失望する意見も上がっています。事故後、ウーバー社はデータの引き継ぎができるようプログラムを修正し、同様の状況なら4秒以上前に自動ブレーキが作動すると発表しました。しかし、これは無数にある危険なシチュエーションの、ほんの一例を解決したに過ぎないと言えるでしょう。
自動運転が直面する厳しい現実とこれからの課題
私は、今回の事故が自動運転の本質的な難しさを浮き彫りにしたと感じています。障害物を見つける「認知」や車を動かす「制御」に比べ、状況を正しく見極める「判断」のプログラミングは極めて困難です。人間のドライバーが常に完璧に前方を監視し続けるという前提自体、そもそも現実的ではないでしょう。だとするならば、たとえ人間がよそ見をしていても、システム側が完全に危険を回避できるレベルの作り込みを行って初めて、真の「自動運転」と呼べるのではないでしょうか。
今回の悲劇は、一企業のずさんさを証明しただけではありません。自動運転社会の実現には、私たちが想像する以上に険しい道のりが待っているという厳しい現実を、世界に突き付けたと言えます。利便性ばかりを追い求めるのではなく、人間の命を預かる技術としての絶対的な安全性が担保される日まで、開発者たちの挑戦と私たちの厳しい監視の目は続いていくことでしょう。
コメント