「最後まで人間だと認識できず」UberのAI車、初の死亡事故が起きた理由

[1. 匿名]

「最後まで人間だと認識できず」UberのAI車、初の死亡事故が起きた理由(平和博) - 個人 - Yahoo!ニュース

歩行者をはねたAIは、最後までそれが「人間」だと認識できなかった――。米国家運輸安全委員会（NTSB）は、2018年3月に米アリゾナ州フェニックス郊外で起きたウーバー（Uber）の自動運転車による歩行者死亡事故に関する報告書を公表した。米国内ではこのほかにテスラの自動運転車による２件の死亡事故が明らかになっているが、いずれも犠牲となったのは運転していたドライバー。自動運転車による死亡事故で歩行者が犠牲になったのは、この件が初めてだった。

440ページにのぼる報告書では、ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかったことが、明らかにされた。

また、急ブレーキも作動しないなど、様々なシステムの欠陥の連鎖があったことが指摘されている。

[2. 匿名]

こわっ。

[3. 匿名]

ウーバーイーツかと思った

[4. 匿名]

実用化できるレベルじゃない

[5. 匿名]

たまに自動ドアが反応してないときとかあるんだけどそんな感じ？

[6. 匿名]

自動運転で死亡事故だと責任はだれになるの？

[7. 匿名]

誰がどうやって責任取るのかな…

[8. 匿名]

やっぱり人間だよ

[9. 匿名]

テスト段階なのに実際の道路で走らすなよ。

[10. 匿名]

自動運転こわい
自動化は自動ブレーキとかの運転補助くらいにとどめて欲しい

[11. 匿名]

こわいよ

[12. 匿名]

ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため

なんで想定してないの？
車道に歩行者ってよくあることじゃん。
高速道路ではないんでしょ？

[13. 匿名]

それでも大事な研究だよ

[14. 匿名]

>>6
車メーカーは責任を負わない。

[15. 匿名]

AIは車道に歩行者がいることを想定していなかったって、いやいや、まずそれを想定させようよ

[16. 匿名]

あくまで｢みんながルールを守っていれば大丈夫｣な物だよね。
この事故みたいに横断歩道を使わない人が居たり急に飛び出す人が居たら轢いてしまう事もある。
自動運転を当たり前にしたいなら歩行者側の意識も変えないといけないと思う。

[17. 匿名]

車道に歩行者がいることをそもそも想定していなかった

これは単純にプログラムのミスじゃないの？
普通に想定できる事態

[18. 匿名]

コレハ ニンゲンデハ アリマセン。チョクシン シマス。

[19. 匿名]

女性被害者に氏つかわず、さんの方が

[20. 匿名]

煽り運転の被害者はAIのせいで逃げられなかったんだよね

[21. 匿名]

ウーバー側に刑事責任がないことは確定しているらしい
ただ、ドライバーが刑事告発される可能性があるとのこと
プログラムのミスなのにおかしい気もするけど…

Uber自動運転車の死亡事故「横断歩道外を渡る歩行者想定せず」との最新報告。現在は修正済み - Engadget 日本版

2018年3月に、道路を横断していた歩行者を死亡させる事故を起こしたUberの自動運転テストカーが、システム的に横断歩道のない場所を横断する人を想定していなかったことがわかりました。 米国家運輸安全委員会(NTSB)は最新の調査報告で、Uberのシステムは犠牲になっ...

[22. 匿名]

>>3
同じ会社だよ

[23. 匿名]

ディストピアが近付いている……

[24. 匿名]

晴天の昼間でかろうじて使えそうかなレベルだと思う

[25. 匿名]

車道に歩行者がいたときに、避けるのが運転やろ

[26. 匿名]

プログラムミスやん

[27. 匿名]

なんでもかんでも自動にするの辞めなって
自動ドアや蛇口が付いてない水道で人間扱いされないで何度も嫌な思いしてきたのに、車にまで認識されないで殺されて誰が責任取るの？

[28. 匿名]

Uberの責任

[29. 匿名]

>>21
そのための運転者ってことなんじゃない？
ブレーキ踏めばよかったのでは。

[30. 匿名]

[31. 匿名]

ほーら。これで責任は車の所有者なんて言ってるんだから…。
信用ならねーって言ってんじゃん。

[32. 匿名]

かもしれない運転しろよ！

[33. 匿名]

試験段階で緊急時はブレーキ踏む予定だったってこと？

[34. 匿名]

現行のヴェルファイア乗ってるけど、車道を横切ろうと車からしたら左側の道路でキョロキョロしてる人に感知して自動ブレーキかかったけど、これは自動運転を謳ってるのに正面の人間も感知しないって相当ポンコツ

[35. 匿名]

>>16
ルールを守るのは大事だけど、人間は不足の事態にある程度対応出来る。少なくとも人間と同じレベルでなければ実用化は無理だと思う。

[36. 匿名]

Uberが運転者に大金積んだとか？

[37. 匿名]

>>12
高速道路だって
事故だったり故障だったり煽りだったり間違いだったりで人が車外にいることもあるだろうし
いつでも人間はいるって想定してほしいよね

[38. 匿名]

歩行者だけじゃなく
シカとかイノシシにも反応するようにしないと

[39. 匿名]

今の車のライトのオートモードって、人や動いてる車に感知してハイビームからロービームに変わるけど、あれって多分熱感知だよね？
停止してる車や自転車には反応しないから。
ウーバーの感知は一体何に反応してるの？

[40. 匿名]

小さい子供には通用しないって。人間がAIに気を使って生活するの？何だか変だと思う。

[41. 匿名]

ごめん、スゴい怖い誤解してた。最後まで人間とは認識出来ず…とか書いてるから遺体の損傷がひどくて認識出来なかった話かと。どちらにしろ怖い話だったけど。

[42. 匿名]

急に飛び出してくる歩行者が悪い
人間が運転してても当然事故が起きる

[43. 匿名]

>>14
ということは、所有者サイドか

[44. 匿名]

ウーバー車のAIシステムがヘルツバーグ氏を捉えるのが、衝突の5.6秒前。

時速44マイル（約71キロ）で、ヘルツバーグ氏との距離は1キロほどある。この時はヘルツバーグ氏を「自動車」を認識している。

いろいろおかしくない

[45. 匿名]

車道に歩行者、信号のない横断歩道とか日本にはあるけどないのかな？

[46. 匿名]

>>21
この運転手は事故の時Hulu見てたって他のニュースサイトでやってたよ。

[47. 匿名]

実用化できない段階で
一般人がいるところで運転しちゃうとか…

AIが車道に歩行者がいることが想定できてなかった、というのはプログラミングの問題だろうが
まだまだ実用化できるレベルじゃないものを走らせたらどうなるかは、人間が想定できることだよね

[48. 匿名]

試験段階の運転中に
運転者がさぼったのか

[49. 匿名]

安全確保のためのドライバーは、よそ見どころか、ウーバー車の運転席で「フールー」の視聴をしていたのだ。

これはドライバーもダメだろう

[50. 匿名]

歩行者の認識って、いちばん大事じゃないの？

[51. 匿名]

日本の都市近郊住宅街なら飛び出し一時不停止いっぱいだから事故だらけになりそう。

[52. 匿名]

>>16
歩行者側にも「飛び出し罪」みたいなの作って欲しい。車と人の事故だと車の責任が大きいのはわかるけど、あまりに無謀な歩行者や自転車多すぎる。

[53. 匿名]

金持ちは一般市民で人体実験

[54. 匿名]

自動とか本音言うと怖いし運転したくない
事故したら責任誰になるの？
自分の運転の方が信用出来る

[55. 匿名]

人間だと認識してなかったってことは障害物と認識してたの？なら衝突しないよね？？

[56. 匿名]

実験段階なら少なくとも人が乗ってまさかの時は手動で緊急停止できるようにしておくべきだよね

[57. 匿名]

人間が無理なら道路に飛び出す猫は、もっと認識出来ずに撥ねまくりそう
絶対やめて欲しい

[58. 匿名]

>>12
飯塚モード搭載されてたのかな

[59. 匿名]

>>13
でも犠牲者になるのは嫌だな

[60. 匿名]

この車のAIはどういう手法を使ってるのかな？
ディープラーニングってやつ？
これって学習した範囲内のことにしか反応できないイメージだけど、
状況の推測、演繹とかできるのかな

[61. 匿名]

>>46
わろた
いいバイトだわーと思ってただろうからびっくりしただろうな

[62. 匿名]

歩いていて急病や転倒でうずくまるようなことがあったら、物と判断されて轢かれる時代がやってくるのかな。

[63. 匿名]

>>61
一ミリも笑えないわ。

[64. 匿名]

車がよける前提で動く人結構いるからね。
自動化はハードル高そう。

[65. 匿名]

>>1
乗ってたドライバーがhulu観ながら運転席に座ってたこともちゃんと載せようよ。
AIが認識できなくて、このドライバーが手動運転に切り替えるのが遅れたからなのもすごく大きな理由だよ。
AIの誤作動はあってはならないけど、試験運転中にドライバーがきちんと安全確認してないって、なんのための試験運転かって話じゃないか。

[66. 匿名]

技術進化なんてこんなもんでしょ。何でもかんでも「やめろ」っていうのは単なる音痴。そんなんじゃ世界の時計は進まない。

[67. 匿名]

徘徊とか多い日本じゃ絶対無理だね

[68. 匿名]

>>15
変な話だよね
普通に考えて突然道路に飛び出す人もいれば、私も経験あるけど道路ならど真ん中を歩いてる人も居たし。

想定外で全てを片付けようとするべきじゃないよね
ＡＩをどこまで過信してるのやら

[69. 匿名]

>>43
怖くて使えない

[70. 匿名]

保険金目的で飛び込み自殺しようとする人間を、人間ならどことなく雰囲気で読み取り気をつけるけど機械じゃその空気を読み取れないよね
それを人間以上に完全に読み取れるまでは自動運転は無理だね

[71. 匿名]

高速道路だけならともかく混合交通の一般道で完全自動運転なんて絶対無理
今の技術でできる訳がない

[72. 匿名]

物流のトラックとかバスならともかくみんな自動運転のクルマなんてほしい？
自動車メーカーが行き詰まって次は自動運転だぁ！とか言ってるだけでしょ

[73. 匿名]

>>44
確かに、歩行者を自動車と認識していたとしても、認識してるならなぜ回避しないんだろう

[74. 匿名]

昨日だったか
ニュースOne｜東海テレビで中国の自動運転特集してたけど
キャスターの高井一が日本より進んでるとか頭の悪い事を言ってた

進んでるなら中国の車を買えばいいじゃん
ホント馬鹿な意見を公共の電波で垂れ流すなと

[75. 匿名]

自動運転なんかになったら目的地に着くまで寝てる人とか出てきそうだし、そういう時の事故はどうしようもないな

[76. 匿名]

年寄りにかぎって無茶な横断するからな〜
AIが対応できんのかな

[77. 匿名]

AIが故意に人を轢いててもわかんないね

[78. 匿名]

立ってる人が認識できないなら、酔っ払いが車道で寝てたらただの障害物扱いで、確実に轢いちゃうのかな？

[79. 匿名]

腰が曲がって乳母車押してるばぁちゃんは
ＡＩが人と認識してくれるのだろうか？

[80. 匿名]

第1に歩行者もルールを守らなきゃね
これで実験を止めずに、実用化まで頑張って欲しい
過疎の進んだ田舎とか、老人が無理に自分で運転しなくてもいいようにして欲しい

[81. 匿名]

だから機械は信用出来ない。人間のなんと優れていること!
車道に居る人間を人間として認識出来ないって…
どのレベルの話じゃ無いし、人間と同じ壇上にも上がれてない!

[82. 匿名]

>>12
いかにもAIを開発するようなアタマのいい人が陥りやすいケースだよね。
むしろ幼稚園児や小学生低学年みたいな「なんで？」「どうして？」「なんでそうなるの？」と無限に範囲を逸脱するくらいの思考の持ち主も必要だし、そういう突拍子もない考え方に真面目に耳を傾けられるリーダーも必要。

[83. 匿名]

自動運転怖いって、沢山あるけど、個人的には老人ドライバー、ペーパードライバー、YouTubeにあがってるような、運転がド下手な女性とかの方が100倍怖いです。

[84. 匿名]

自動車の自動運転、怖がってたら、自動運転化が進んでる飛行機や新幹線とかも乗れないね。

[85. 匿名]

>>6
普通にドライバーでしょ。無人の自動車は色々法的に難しいと思うよ。

[86. 匿名]

結局AIに植え付ける認識何てどう足掻いても付け焼刃程度が限界ってことだね

[87. 匿名]

>>82
そう言うこと!
電話帳から始まってアマゾンや色々なアカウントとるやり方も頭悪すぎ。
分かっている人しか分からないシステムはいつか破綻する。

[88. 匿名]

おい、そんなアホな実験公道でしないでよ。巻き込まれた人が気の毒すぎる。

[89. 匿名]

>>14 そうなんだ！怖っ。

[90. 匿名]

>>83
論点のすり替え

[91. 匿名]

車道に歩行者がいることを想定してなくても、走行の障害物となる物体(人)があったなら避けなくちゃならないのに、そこはどうなってんだか。

例えば強風で店の旗とかがズルズルと動いて車道に入ってきてしまった場合もそのまま突っ込んじゃうのかな？
テストとはいえ、その程度のものをよく公道で走らせたよね。

[92. 匿名]

人間じゃなかったらぶつかってもいいという判断をしちゃう時点で相当ヤバいのでは

[93. 匿名]

ひかれる野良猫が増えるな
田舎だとタヌキとかハクビシンの死体も目にする機会が増えるかも

[94. 匿名]

機械ごときに人間がわかってたまるか

幼児の予測不可能な動きとか絶対人間とは認識しないでしょ

みんな、自動運転とはいえ、責任はあるのわかっててスマホみたりして余所見するだろうから実用化したらバンバン死ぬと思うわ

[95. 匿名]

>>1
絶対実用化なんてしないでほしい
ホラーじゃんか

[96. 匿名]

>>18
怖っ！(笑)

[97. 匿名]

人間じゃなければ動物でも障害物でも轢いて走るってことかしら
それも怖い

[98. 匿名]

一定以上のスピードが出せず、自動ブレーキが付いてるだけの車の方が安全な気がする
AIに全部任せてもあり得ない事故で運転手が不本意に責任取らなきゃならないんだったら本末転倒

[99. 匿名]

>>87
あなたが何を言っているのかわからない私は頭がいいのだな？

[100. 匿名]

自動ドアにたまに反応しない自分は間違いなく轢かれるんだろうな。

[101. 匿名]

>>69
それ以前に、たぶん非常に高くて買えない。

高い上に、欠陥品のエラーのせいで、自己責任を負わされる。社会的にもバッシングを受ける。リアル罰ゲームだな。終わっとる‥。

[102. 匿名]

>>6
運転手みたいです。

自動運転中の事故、車の所有者に賠償責任　政府方針: 日本経済新聞

政府は30日、自動運転中の車の事故について、原則として車の所有者に賠償責任を負わせる方針を決めた。一般自動車と同じ扱いとする。外部から車のシステムに侵入するハッキングで事故が発生した場合、損害は政府が補償する。

[103. 匿名]

自動運転でなくても認識が難しいレベル
歩行者が横断歩道じゃないところで渡ったてた画像公開されてなかった？

[104. 匿名]

車載カメラ

動画：ウーバー死亡事故、車載カメラの映像公開　写真1枚　国際ニュース：AFPBB News

【3月22日 AFP】米アリゾナ州テンピ（Tempe）で発生した自動運転車が歩行者を巻き込んだ初の死亡事故で、地元の警察当局は21日、配車アプリ大手、ウーバー（Uber）の車両が事故を起こした瞬間を捉えた車載カメラの映像を公開した。