<自動運転で死亡事故>自動運転を市場でテストすることの是非[茂木健一郎]


茂木健一郎[脳科学者]

***

テスラが自動運転モード中に初の死亡事故をおこした。5月に起こった事故が今報じられるということは、自動運転中だったという事実を確認することなどに時間がかかったのだろう。

もし、人の運転と人工知能による自動運転の安全性を比較しようとしたら、走行距離あたりの事故率を統計的に計算しなければならない。しかし、人間は、自動運転にはさらに高い安全性を求めるようだ。

極論を言えば、コンピュータが間違いをすること(脆弱性)が一切許せない。今回のテスラの事故も、完全であるはずの自動運転に思わぬ脆弱性があった、ということで「それは許容できない」という意見が多いように思う。

【参考】人工知能を相手に羽生善治さんの指が震える時[茂木健一郎]

自動運転の脆弱性が許容できない第一の理由は、信頼してなんのアクションもとらないでいる、という不作為の根底が覆るからだろう。自分によるコントロールを放棄しているという前提が崩れる。安心して乗っていられないのならば、そもそも、自動運転はゼロにすべきだという感覚が強い。

また、自動運転に脆弱性がある中で、人命にかかわる欠陥をもったメーカー側の態度の是非についても、倫理的非難があつまる可能性がある。完全な製品をつくれないのならば、そもそも市場に出すな、という考え方もある。

人工知能やOSなどのシステムに「完全」も「完全性の証明」もない。だから、市場に出して、ビッグデータを集め、テストしながら改善していくしかないが、人命がかかわる自動運転でそれをすることの是非、難しさが、今回の事故で明らかになったように思う。

(本記事は、著者のTwitterを元にした編集・転載記事です)

 

【あわせて読みたい】

The following two tabs change content below.

茂木健一郎

茂木健一郎(もぎ・けんいちろう)脳科学者。株式会社ソニーコンピュータサイエンス研究所上級研究員。1962年10月20日、東京生まれ。東京大学理学部、法学部卒業後、東京大学大学院理学系研究科物理学専攻課程終了。理学博士。理化学研究所、ケンブリッジ大学を出て現在に至る。「クオリア」(感覚の持つ質感)をキーワードとして脳と心の関係を研究するとともに文芸評論、美術評論にも取り組んでいる。