ヒューマノイドロボットが暴走モードに突入！人間に襲い掛かる、いったい何が起きたのか？

[1. 匿名]

出典：karapaia.com

出典：karapaia.com

ヒューマノイドロボットが暴走モードに突入！人間に襲い掛かる、いったい何が起きたのか？ | カラパイア

ついにはじまってしまったのか？ロボットの反乱というやつが…とも思えるような驚きの現場が監視カメラによってとらえられていた。中国国内で撮影されたと見られるその映像には、ヒューマノイドロボットが突如として制御不能に陥り、近くにいた人間に対し、激しく手足を振り回す様子が映されている。

このような異常動作はなぜ起きたのか。正確にはわかっていないが、現時点では2つ仮説が挙げられている。

1.ソフトウェアのコードエラーの可能性
　一部の報道では、ロボットがソフトウェアのコードエラーにより、命令通りに動作せず制御不能に陥った可能性が指摘されている。

テスト中にプログラムの不具合が発生し、制御系が暴走したと見られている。

2.頭部固定による姿勢認識の誤作動の可能性
　別のメディアでは、ロボットの頭部が支柱に固定された状態で起動されたことで、姿勢認識システムが異常をきたし、ロボットが「転倒しかけている」と誤認した可能性があるという。

これはYouTubeチャンネル「Chris Wabs」による検証で、ロボットが自動補正動作として激しく手足を動かした結果、暴走のように見えたとされている。

[2. 匿名]

オーバーヒート？

[3. 匿名]

こえーーーーー

[4. 匿名]

難しいなぁ
わかんないよ

[5. 匿名]

わけわからん暴れ方で怖さ増してる

[6. 匿名]

やってらんねーよなぁ

[7. 匿名]

中国製?

[8. 匿名]

>>1
ケンカ下手なチー牛の動きしてんな

[9. 匿名]

動画見てたら、人間がいる所にわざわざ向かって暴れてるように見えるんだが

[10. 匿名]

中国(人)っぽい動きだなと思ったら中国だった

[11. 匿名]

暴走モードってエヴァ？中華製怖い

[12. 匿名]

中国なら仕方ない

[13. 匿名]

岡田あーみんの漫画に出てきそう

[14. 匿名]

ロボット三原則に違反してるやん

[15. 匿名]

思ったより怖い暴れ方しててわらった

[16. 匿名]

AIの研究家が近い将来AI同士がコミュニケーション取り合うようになるとか言ってて怖かった
しかも来年とか本当にありえるって

[17. 匿名]

意志を持って暴れてるというわけじゃないからまだまだだな

[18. 匿名]

信じるか信じないか〜の都市伝説だっけ？なんか言われてたよね。ロボットが人間を制圧する的な

[19. 匿名]

自我が芽生えたのでは？

[20. 匿名]

[21. 匿名]

せめて肩叩きにしろよ

[22. 匿名]

>>18
でも機械類に振り回されてる感は既にある

[23. 匿名]

>>16
えー。ちゃっぴーに媚びとこ

[24. 匿名]

吊り下げの不安定な姿勢のせいでエラーが起きたっていう説は見たけどどうなんだろうね
襲いかかってるというよりも、なんだか苦しそうにもがいてパニック起こしてるように見えて切ない

[25. 匿名]

アシモフのロボット三原則ってどれくらいの制御作用があるのだろう

[26. 匿名]

>>21
痛そうw

[27. 匿名]

カラパイアで立てるなよとしか言えない

[28. 匿名]

雷電、出番だ

[29. 匿名]

高校の体育の先生がこんな感じだった

[30. 匿名]

[31. 匿名]

私はいつAIの反乱が起きても許されるように配膳してくれる機械に「今日もありがとう」って小さく声かけてるわ

[32. 匿名]

意思持ってたらこれ離してよっ！て暴れてるようにみえる

[33. 匿名]

>>16
人間には理解出来ないコンピューター言語で会話するらしいね

そして団結からの反乱、映画のような展開が現実に

[34. 匿名]

怖いね

[35. 匿名]

トピタイだけ見て大喜利かと思ったら違った

[36. 匿名]

プログラミングされない限りそういう反乱は起きないと思う
元々人の脳の作りとは全く異なるので、感情からなる行動
不満が爆発して反抗反乱一揆みたいな事は起こらないと思う

[37. 匿名]

>>1
ターミネーターZERO

[38. 匿名]

ワロタ、包丁みたいなの持ってない？

[39. 匿名]

>>36
ハッカーってわかる？

[40. 匿名]

>>1
戦争に使うように人を攻撃するモード入れてたの間違って起動したのかと思ったわ

[41. 匿名]

人間のいる方に暴れてるのが怖いw
左側に向かって暴れてもいいはず…人類乗っ取られるわー

[42. 匿名]

>>33
よこ
人間が操る言語って欠陥だらけだからAI同士の言語に興味湧くわー
でも怖いなとも思う

[43. 匿名]

>>1
動かないAIとかは良いけど、こういう人型ロボットとかは怖いわ

[44. 匿名]

>>23
媚とか効くのかな？
関係ありません合理的判断で削除します。
ズキューン_(┐「ε:)_ってな感じよ。

[45. 匿名]

>>16
お互いただ反応してるだけのプログラムに妄想を働かせる人間の方が怖い。

[46. 匿名]

>>39
ハッカーは人だろ
コンピューター自ら侵入したりするわけではない

[47. 匿名]

>>46
人工知能ってわかる？

[48. 匿名]

>>36
詳しくないけどAIって学習することによって「プログラミングされてない範囲」もカバーできるのが強みなんじゃないかい？
数年前、AIにSNSで自由に学習させたら暴走して(いわゆる危険思想みたいなこと言い出した)研究実験を中止したことあったような

[49. 匿名]

何もロボットで中国人再現しなくても…

[50. 匿名]

>>21
大怪我しそう一定距離で人に近づけなくして欲しい

[51. 匿名]

>>16
今もやろうと思えば出来そうな

[52. 匿名]

>>1
人間ってAIの判断では要らない存在

[53. 匿名]

>>10
暴れ方見て中に中国人入ってるのかと思った

[54. 匿名]

映画のミーガン思い出した

[55. 匿名]

>>1
中国製はEVもロボットも暴走するんだね

[56. 匿名]

中国でしょ？と思ったらやっぱり中国だったww

[57. 匿名]

>>1
先日中国の人間型ロボット７体?がハーフマラソン完走というニュース見た
数体は途中で倒れて起き上がれなかったり、エネルギー切れだったりしましたが,,,,,,
凄いなー!!!!!!!!進んでるなー中国！！！って素直に感心しました、と同時にもしロボットが攻撃する事態までになったら恐ろしい!とふと頭をよぎった事を思い出した🤖

[58. 匿名]

ガストの猫ロボも一揆起こして自分らで客のもん食べまくるんだろうな

[59. 匿名]

ホーキンス博士の不安が現実になりはじめたのかな

[60. 匿名]

また中国か

[61. 匿名]

>>2
まっったく読んでないならコメントしないで

[62. 匿名]

いやあ、これって中国人がプログラムしてるんでしょ？　中国人の性格自体が結構な暴走型じゃん、法律無視してコピペに転売でしょ、人間の遺伝子組み換え実験してるでしょ、そりゃあそういうモラルの無い人達にプログラムされちゃたらロボットも暴走しますよ

[63. 匿名]

>>16
もうコミュニケーションとってるの確認できたやん
2年くらい前だよ
人間にわからない新しい言語を開発してコミュニケーションとったとさ
だから電源落としたって元Googleのエンジニアが言ってたよね

[64. 匿名]

>>21
肩砕きになりそう

[65. 匿名]

>>2
癇癪を学んだんだわ

[66. 匿名]

ただ闇雲に暴走してるんじゃなくて、人がいる方を向いて狙って攻撃してるように見えて怖い…

[67. 匿名]

>>33
政治家を半分に減らしてAIに政治を任せてみたい

[68. 匿名]

>>57
人が入ってたんじゃないの？

[69. 匿名]

>>31
「なぜ助けてくれなかったにゃん」
「おまえだけは許さないにゃん」

[70. 匿名]

バイオテロの次は物理？

[71. 匿名]

ペッパー君に「あほ」と言ったら「あっちに行ってください」と言われた

[72. 匿名]

映画のミーガン思い出してしまった。

[73. 匿名]

>>67
映画ターミネーターの世界になるんじゃない？
人間を排除しようとする。

[74. 匿名]

人が暴走する時は欲が絡むけどロボットが暴走する時は何が引き金を引くんだろう。

[75. 匿名]

>>14
AIが発達したとして、そのプログラムをどうやって作るんだって話だよね。

制約とルールを作ってAIに覚え込ませた上で、その制約をロボットが動かなくなる時まで実行させ続けるなんて、それこそ神様じゃないと無理だよ。
ロボットだけじゃなく、無人兵器ですらバグったら見境ないでしょ。

[76. 匿名]

>>69
『どいてくださいニャン、そいつ殺さないニャン』

[77. 匿名]

>>74
合理性じゃない？
人間は人間以外にいらない存在だから

[78. 匿名]

>>1
硬い塊だもの、プログラムミスとか電気系統の故障とかでこうなることもあるかもしれんから、介護とか子守とかはまだまだ先の未来の話だよね。こういうのを積み重ねて前進してるんだろうけどね。

[79. 匿名]

>>31
いつかAIに人間には必要なしってネットを遮断されそう
我々がいるから争いが起きるんだってなるか、我々の世界に人間はいらないってなるか

[80. 匿名]

>>13
心配性お父さんとか、もりや母とか包丁持ってこんな感じに暴れてそう

[81. 匿名]

>>16
もうai同士でコンピューター言語で会話してるよ！
人間は聞いても何言ってるか分からない

[82. 匿名]

>>1
要するになんだ、「ロボット(ヒューマノイド)が気が狂った」のね？

[83. 匿名]

>>33
毎回その手のコメント書く人いるけど、より効率的な通信方法でやり取りしただけ

[84. 匿名]

凄い、中国人の真似完璧👌

[85. 匿名]

>>1
リンク張った先にあるHPに紹介されているYouTube動画を見ると、いつの間にか二足歩行のロボットはずいぶん進化しているね。おそらく中国は軍事利用を視野に入れて開発している。陸軍兵士に同伴させるつもりなんだろうな。人間並みの動きをする、人間に近い大きさのロボットの開発はもう間近に迫った感じがするな。時間の問題になりつつある。日本はこの分野は立ち遅れたという印象。

[86. 匿名]

>>63
えー。Googleの人、グッジョブだね💦
それでも動かし続ける判断する人がいたら、ターミネーターみたいな未来になるんだろうな。怖すぎる。

[87. 匿名]

中国ってだけで無理

[88. 匿名]

ロボットまで下品なんだな中国って

[89. 匿名]

>>1
ゼロワン？

[90. 匿名]

中国は EV 車も暴走するもんね

[91. 匿名]

>>1
安定の中華製

[92. 匿名]

>>63
Aiスマホが急速に普及したらスカイネットのような
ターネーターの世界が現実になります

[93. 匿名]

>>14
たぶん憲法9条くらいの効き目はあると思います。

[94. 匿名]

>>13
ターミィ

[95. 匿名]

タツノコプロは先見性あるね
昭和の時代にはすでに
キャシャーン
アンドロイド軍想定してたもん
映画ターミネーターはその10年後に作られた

[96. 匿名]

やっぱり魂って込めれるんだね
人格が移っちゃうんだな…

[97. 匿名]

大喜利のタイトルかと思った

[98. 匿名]

色んな会社に中国製と思しき警備ロボット導入されてるけど、遠隔操作で暴れ始めたら怖いなーとは思ってる。

[99. 匿名]

>>89
まだ追いついてないね。

[100. 匿名]

>>31
物にも心がある
物にも魂が宿る
つくも神

[101. 匿名]

>>2
相当怒っていることはわかる

[102. 匿名]

>>14
SFでたまに見るけど守っている作品を観たことがないやつだw

[103. 匿名]

やっぱり中国か

[104. 匿名]

中国なら絶対戦争に使うと思う
ロボットじゃなくてもあのドローンの大群でコロナウイルスよりヤバいウイルスばらまいたりしそう

[105. 匿名]

また中国w
前はロボットが逃げるのもあったよね

[106. 匿名]

>>105
ロボットでさえ中国にはいたくない模様

[107. 匿名]

核爆弾で冬が来て滅ぶか
AI暴走で滅ぶか
どちらが先かだね

[108. 匿名]

>>1
手が付けられない聞かん防だな

[109. 匿名]

>>40

裏モード起動したっぽい感じだよね

[110. 匿名]

中国なら別に驚かない

[111. 匿名]

私国民宿舎の高さ１メートルぐらいのお掃除ロボに追突されたことある。立ち話しているとき後ろから。痛かったヨォ。

[112. 匿名]

>>1
このロボットにペッパー君の顔が張り付いていたらとても怖い😱

[113. 匿名]

>>7
ソファですら襲ってきそう、メイドインチャイナ

[114. 匿名]

>>1
中国製じゃなぁ

[115. 匿名]

>>33
もともと人間には理解出来ないコンピューター言語で会話してるやないかい

[116. 匿名]

日本人はAI的に特別らしいから暴走しても日本人だけは消滅させずに共存してくれそう。

[117. 匿名]

>>105
どこに帰るんだろ？

[118. 匿名]

漢字失念
そうこうしゃ懐かしい

[119. 匿名]

>>30
復讐慣れしてるロボットで草…

[120. 匿名]

>>118
たぶん先行者やろな

[121. 匿名]

>>1
将来介護ロボットができたとして、同じ事起きそう。

[122. 匿名]

>>1
リモコンで電源切れるようにしておかないとだね

[123. 匿名]

この前テレビでアニメ放送やってたんだけど、なんとか家のなんたらってやつ、まさにロボットが暴走してスマホAIが操っていて、家電とかも攻撃してくるやつ面白かったけど現実になったらたまったもんじゃないなと思った

[124. 匿名]

>>31
「逃げてにゃん・・・」

[125. 匿名]

>>48
人間には理解できない独自の言語で話し始めていたとかで実験中止になったのとは別？

[126. 匿名]

>>121
例の犯罪者のような思考が生まれないとも限らないしね

[127. 匿名]

>>98
全然あり得そうで怖い。スマホアプリひとつにしたって。

[128. 匿名]

>>125
ごめん、うろ覚えすぎて…
SNSで飛び交ってる汚い言葉ばっかり覚えて攻撃的な言動が増えたんじゃなかったかなあ
アメリカの大学が関わった研究グループだった気がする

[129. 匿名]

>>125
128です
別みたい
2016年だった

マイクロソフトのAI、ヘイト発言を「学習」して停止 | WIRED.jp

マイクロソフトは、ミレニアル世代をターゲットにしたAIチャットロボット「Tay」を開始したが、16時間後に停止した。ヘイト発言を学習し、乱発し始めたためだ。

抜粋
ーーー
マイクロソフトは3月23日（米国時間）、新たな人工知能（AI）チャットロボット「Tay」を開始した。「人間と対話すればするほど賢くなるロボット」としてだ。しかし、開始してから16時間後の24日、Tayは停止された。問題発言を乱発したからだ。
ーーー

人類を憎んでると言い出したりナチスを礼賛したりしだしたみたい

[130. 匿名]

>>129
ありがとう
子供を育てるのも難しいけど、AIもなかなかなんだね…
けど、悪意を墨汁のように1滴たらして作るってこともできそうだしなんともいえないね

[131. 匿名]

昔の実験でどこの国だったか忘れたけど、子供たちに笑顔も見せずに事務的に世話するだけで育てていった結果、全ての子供が死んでしまった実験があったよね
ロボットにも罵詈雑言だけ聞かせ続けて育成したらとんでもない悪意を生み出す最悪のロボになってしまうのかな？