【AI】Uberの自動運転車が女性をはねた死亡事故、女性検知していたことが判明 ソフトウェアが「誤検知」と判断、減速・回避せず

1 :2018/05/11(金) 20:59:43.87 ID:CAP_USER9.net

◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。

実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。

Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。

何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。

■写真

GIGAZINE 2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/

89 :2018/05/14(月) 08:19:49.18 ID:OM2ptsgU0.net

AIってこれといったブレイクスルーが無いまま急に実用化された印象。

8 :2018/05/11(金) 21:06:11.17 ID:rXnWjgYi0.net

普通こういう物は過剰なくらい安全方向に余裕を持たせるもんなんだけどな
テスト走行なら快適性以前の問題
間違いなく判断ができるくらい学習データを重ねてからこういうのは緩めるもんだ

77 :2018/05/12(土) 12:29:07.18 ID:F/auOnJC0.net

被害者が成人だから今のところ微妙な空気だけどガキだったら世論は厳しかっただろうな

81 :2018/05/13(日) 20:43:04.39 ID:tFMcO6Nh0.net

>>80

しかも事故が増えるほど声も大きくなるからな。事故がデータになるなんて万一メーカーが言って流出したら祭りになるな。

46 :2018/05/11(金) 21:59:14.75 ID:P3y9A1Ek0.net

AI「ニンゲン、愚かなる生き物、コロセ」

69 :2018/05/12(土) 10:10:32.40 ID:4BtwCx3B0.net

>>67
Windowsにはさすがに殺されないから。

57 :2018/05/11(金) 22:53:01.26 ID:fkV8d/0X0.net

>>49
横断者も車の進路遮るなよ
走って逃げてれば避けれたのに

45 :2018/05/11(金) 21:55:17.40 ID:O7/5IEZy0.net

ソフト作った人逮捕されちゃうの?

13 :2018/05/11(金) 21:09:46.56 ID:zieZZ3Pc0.net

試作車だろテスト走行や 取り敢えず安全に全フリして走らすもんやで、
ブレーキ掛けまくりやけど一度も事故りませんでした、を表に出さなアカンのや、

39 :2018/05/11(金) 21:40:51.15 ID:4wWRpnzW0.net

人間で言うと「まさかそんな事はないな」って思ったって事か
人間の作ったもんだし、不完全なのも宜なるかな

コメントする