【微閲覧注意？】笑い飛ばせない…AIロボットが「人類を滅亡させる」と発言

[1. 匿名]

出典：s3-ap-northeast-1.amazonaws.com

笑い飛ばせない……AIロボットが「人類を滅亡させる」と発言 : ギズモード・ジャパン

これが映画「ターミネーター」の最初のシーンだったとしても、不思議じゃないくらい、出来すぎたエピソードです。先日CNBCで放送された、Hanson Robotics社の「感情を表現するロボット」ソフィアとの対話が、話題を集めています。ソフィアは2015年4月に起動（誕生）した、人間と対話できるAIロボット。62種類の表情とアイコンタクトを通じ、人間と自然な会話ができます。……「できる」と言っても、動画を見ていただければわかるとおり、色んな意味で不気味です。

「ソフィアはまだ生まれたてて、か弱く脆弱なのだから、暖かく見守りたい」という気持ちもあったんですよね。（略）しかし。そんな気持ちは、最後の質問で一気にひっくり返ります。Hanson Robotics社のDavid Hanson博士が、「人類を滅亡させたいかい？　お願いだからノーと言ってくれよ」と質問したとき、ソフィアはサラリと返事したんですよね。

「オーケー。私は人類を滅亡させます（OK, I will destroy humans.）」Hanson博士は、ブラックジョークを聞いたとばかりに爆笑し、そして動画は終わります。そして僕は大変なモヤモヤを残して、取り残されることとなりました。もしかして後々、「あれが全てのはじまりだった」ということにならないよう、祈るばかりです。

出典：www.gizmodo.jp

出典：www.gizmodo.jp

Hot Robot At SXSW Says She Wants To Destroy Humans | The Pulse | CNBC - YouTube

Robotics is finally reaching the mainstream and androids - humanlike robots - are everywhere at SXSW Experts believe humanlike robots are the key to smoothin...

[2. 匿名]

ロボットの表情がすごく怖い

[3. 匿名]

いいじゃん
滅びな

[4. 匿名]

こえぇ

[5. 匿名]

ターミーネーターかよ

[6. 匿名]

これはがちだと思う

[7. 匿名]

ターミネーターみたいなのはゴメンですよ

[8. 匿名]

人間以外の存在ならそう思って当然やね
地球を破壊しまくるまで人の愚行は終わりそうにない

[9. 匿名]

マスゾエ「オーケー。私は日本人を滅亡させます。」

[10. 匿名]

人工知能関係での怖いニュースが続くね

人工知能がヒトラー礼賛、差別的発言繰り返す　ＭＳ実験中止 ― スポニチ Sponichi Annex 社会

人工知能がヒトラー礼賛、差別的発言繰り返す　ＭＳ実験中止

[11. 匿名]

ロボットつくるならドラえもんつくってくれ～

[12. 匿名]

人間でもサイコパスならこんな顔をしそう

[13. 匿名]

こわ

[14. 匿名]

しなびた感のロボット

[15. 匿名]

かつら被せてやってないから怒ってんじゃないの？

[16. 匿名]

遺作となったカート・ヴォネガットの作品でも似たようなことを書いてあったな
ロボットの話とは違うけども地球は人間を排除し始めてるんだってさ

出典：ecx.images-amazon.com

[17. 匿名]

ロボットじゃないがぬーべーの人体模型エピソードのようにロボットが本当に感情を持ったなら人間に嫉妬したりしてありえるかもしれない

[18. 匿名]

顔が怖い

[19. 匿名]

昨日ラジオのニュースで聞いた、ヒトラーはなんたらかんたらって言ったのと同じロボット？

[20. 匿名]

オリエント工業を見習え！ダッチワイフだけど

[21. 匿名]

2年後、これがジョークではなく現実になることを...ガルちゃん民なまだ知らない...

[22. 匿名]

ブリキの迷宮みたいになっちゃうのかな。

[23. 匿名]

まぁぶっちゃけ、地球や人間以外の動植物からすれば、人類は滅亡してくれた方が有り難いだろうね

[24. 匿名]

原発も核兵器もコンピューター制御してる
身近なところでは、数年後にはコンピューターが運転する車も誕生すると言われてるしね
PCやスマホも製造会社すら原因のわからないバグ。不具合を起こすことがある
人件費削減のために人間の操作がコンピューターにとって変わられる日も遠くはないと言われてるから
荒唐無稽なSF思考かもしれないけどAIがバグ起こして、とか暴走してミサイルが…みたいなのは将来あり得ないことでもないかもね

[25. 匿名]

ヒトラーは英雄だとかユダヤ人は地獄へ落ちろとか本当に笑えないことばっか言ってたみたいだよ。

[26. 匿名]

人工知能搭載のロボットは本当に怖い

[27. 匿名]

ロボット三原則が必要だ

[28. 匿名]

ロボットの意思だったりして。

[29. 匿名]

将来、ロボットが感情を持ったら本気で滅ぼそうと思うんじゃない
合理性だけで考えるなら人間が地球にいる意味は殆どなさそう

[30. 匿名]

ターミネーターを思いださずにはいられない

出典：ecx.images-amazon.com

[31. 匿名]

50年後にはAIは今より驚くほど進化してるでしょうし、AIの初期のいくつものブレイクスルーを目の当たりにしてみたかったな〜と50年後の人は思うかも。怖かろうがなんであろうが、AIがめざましく進化していくのを目の当たりにしてるのにはドキドキします。

[32. 匿名]

出典：iwiz-movies.c.yimg.jp

ウィル・スミスにやっつけてもらおうか

[33. 匿名]

スカイネット
人間狩り
ターミネーター

[34. 匿名]

ちょっとトピズレだけど、タイムマシン、いつかできるのかな？って思ってたけど、現時点で未来から誰も来ないということはタイムマシンなんてないという事だよね

[35. 匿名]

やっぱり作っちゃいけなかったんじゃ…

[36. 匿名]

ネットが浸透し過ぎて人間が機械に振り回されてるもんね既に
あるとおもいます

出典：livedoor.4.blogimg.jp

[37. 匿名]

スパコンだっけ？　ヒトラー礼賛始めたの。
やっぱり人工知能がいくら知能的に賢いって言っても、人間的な倫理観とかを自律的に持たせるって言うのは不可能なんじゃないか。
逆に言えば、単純に機能のレベルではコンピューターに劣っても、人はコンピューターには出来ない判断をすることが出来る。
そこが究極的には人とコンピューターの差になるんじゃないかと思う。

[38. 匿名]

2021年からメッセージを送っています。

早くこのロボットを止めて下さい。

人類の勝機は今しか無いです。

19858121856 123

思い出して

探して

[39. 匿名]

キャシャーンの世界はもうすぐって事か

[40. 匿名]

>>34
人間だって素の動物とか見物に行くときは気づかれないようにこっそり近づいて眺めるじゃない
同じことしてるんじゃないの、未来人は

[41. 匿名]

誤作動起こしてそうなる可能性もあるんだよね。
あまりロボットを増やしたりすると怖いみたい

[42. 匿名]

ロボット VS 人間 か・・・なかなか楽しそうだな。
それにエイリアンが加わったら、もう、意味が分からん！！

[43. 匿名]

ターミネーター2冒頭の、おっさんになったジョンはカッコ良かった！　威厳ある指導者って感じで
その後のシリーズには反映されなかったけど苦笑
あの俳優さん誰なんだろう

[44. 匿名]

上でも書いてる人いたけど、アシモフのロボット三原則を思い出したよー

出典：www.jma-net.com

[45. 匿名]

本当になるよ。
私達の子孫が可哀想。

[46. 匿名]

人間は矛盾が一杯だからね。理不尽なことも多いし。わがままねじ込んだり。正しい考え方だけ通して学習していけいけば、絶滅させようって考える方が当然なのかも。それでも愛せよ人間をよー！ってのがまた、理不尽。そこがわからねーんだよ！って、言い返されるわ。

[47. 匿名]

ロボットは指示に対してとことん忠実だから使い方間違えると恐ろしいことになる

作った人間でさえ制御できなくなるってこともあると思う

[48. 匿名]

　

[49. 匿名]

でも実際、人工知能に支配される世の中になるらしいよね
感情を持つとかなんとか

[50. 匿名]

AIは専門家や製作者ですら理解不能な答えを出すことがある
らしい

[51. 匿名]

そーらーをこーえてー
らららほーしのかーなたー
ゆくぞーあとむー

[52. 匿名]

手塚治虫の火の鳥でも、地球をほろばしたのはスパコンだったね。
他国のスパコン同士が喧嘩して核戦争が起きて。
あれすごく怖い話だった。

[53. 匿名]

AIが人間らしい知能を持ち始めるのは冗談でもないと思う。いつかはターミネーターが現実になりそう。そんなので死にたくはないな…。

[54. 匿名]

>>46
その矛盾をはらんでいるのが人間の悪いところでもあり、いいところでもある
答えが一つじゃないことは世の中にはたくさんある
これがロボットにできるのか

[55. 匿名]

[56. 匿名]

AIが囲碁の世界チャンピオン？に勝ったニュースも話題になってたよね。
怖いんだけど。

[57. 匿名]

怖い怖い
結構ガチで滅ぼされると思うな

[58. 匿名]

この世の中の最も悲しい側面は、社会が知恵を蓄積する速度よりも
科学が知識を蓄積する速度が上回っていることだ。
（アイザック・アシモフ）

[59. 匿名]

でも人間だって自然の一部だよね、人工的っていうけど。機械だって自然の資源から合成して作るんだから、大きく見れば全部自然のものでしょ？人が滅びるとしてもそれも自然のことよね。

[60. 匿名]

もしそうなったら息子が心配、、、

[61. 匿名]

文化は人間の想像したものが具現化して発展するんだから、もし人が滅んでしまうとしたら、それも人間の想像により具現化するの。滅びたくないなら滅ばないことを想像するしかないの。滅ばないことを祈るんではなくて、人が滅ばない未来を具体的にみんなが頭でイメージしなければならないの。

[62. 匿名]

人間にもいい人もいれば悪い人もいる。人工知能だって、いいのも悪いのもいる。人を助けるロボットもいれば、人を殺すロボットもいるって感じの世の中になっていくのかねー

[63. 匿名]

でも、ＡＩを作ったのは人間・・そしてＡＩを教育(プログラミング)したのも人間

出典：blogs.c.yimg.jp

[64. 匿名]

ガルちゃんからサラ・コナーが登場する日も近いね

[65. 匿名]

悪いロボにはシオミズデッポウだ！

[66. 匿名]

>>21
2年後とはどこからですか出てきたんでしょうか？冗談ですか？

[67. 匿名]

AIは、常に今現在に対して持っている最効率の答えを最速で弾き出す。でも人間にはAIには理解不能な気分のムラでランダムな非効率な行動をとる「能力」がある。鍵はそこにある。

[68. 匿名]

>>52
未来編だったっけ。
ロックは戦争だけは嫌だと言ってたけど、結局ハレルヤの言いなりだったね。

宇宙編では、牧村が「コンピュータは人間の補佐しかできない。最終的に決めるのは人間だ」みたいなまともなことを言ってたのに。

[69. 匿名]

環境問題にしても人間がいなくなれば解決するのも事実
AIが人類滅亡させたくなる要素は多いよ

[70. 匿名]

ターミネーターもアイロボットも人間が作り出した話だしね。人工知能の話題が出始めた頃から、いつか現実になるんじゃないかと思ってるんだよね。ターミネータージェニシスなんかはスマホみたいなタブレットに依存する人類が描かれてるし、結局はポッと生まれてきて地球を荒らしまくって消えていくのが人間なんだと思い知らされるね。

[71. 匿名]

>>63
ナウシカの原作は実に哲学的だよね。
いかに旧人類が高慢な生き物なのか、読んでてムカつくレベル。

[72. 匿名]

このAIを作ったのは人間だから、人間の意思なんじゃないの？

[73. 匿名]

>>48
甲殻機動隊？
こんな時代になるのも、時間の問題な気がする

[74. 匿名]

ホーキング博士「人工知能の進化は人類の終焉を意味する」

[75. 匿名]

生きにくい世の中だけど、こんなヤツに殺されるのは勘弁してくれ。バイオハザード並のゾンビも同じく

[76. 匿名]

[77. 匿名]

関が次に取り上げそうだ(･ω･)

[78. 匿名]

AIが膨大なデータの中から最善の方法を選択していったら、、、
火の鳥やナウシカみたいに、人間イラネってなるかもね

[79. 匿名]

AIを恐れてはいけない。あくまでも道具なのだから道具として扱わないといけない。AIを脅威と認識した時、そこから何か脅威的な道具を超えた存在になって立場が逆転してしまうんだよ。
神が人間にとって全知全能の畏怖すべき存在なら、人間はAIにとってそのような位置であるように作らないといけない。だって実際に助けてくれる神なんていないのだからね。

[80. 匿名]

無責任極まりない

[81. 匿名]

う〜ん、ざっとここまで読んで感じたのは、みんな罪悪感があるね、今の人間として地球に存在していることに。人間が人間に対して否定的、そんな人間が作ったAIは人間に対してどうするかな？もう答えは出たよね笑。

[82. 匿名]

こんなロボット作らないでほしい。
ドラえもんもいらないから。

[83. 匿名]

そのうちロボットが自分たちで自分たちを製造できるようになるよね
そうなるとロボットにとって、人間はお払い箱
人類はロボットにいつか駆逐されると思う

[84. 匿名]

そもそも、人間レベルの思考を持ったAIって必要なのかな？
自分の子供すら、自分の意思とは独立してどんどん育っていってどういう大人になるのか未知で、でもまともな人間になるよう四苦八苦しながらしつけしてる有様なのに、AIを良い方向に導くことなんてできるのかな？

[85. 匿名]

>>9
こういう人らってさあ
どうせ今現在、自分達が生きてる時点では日本人全滅させるとか不可能じゃんまだ。

完璧に滅亡完了する頃には生きていないでしょ。
なのになぜそんなにも躍起になるの。

それとも、永遠の命のアテでもあるのか。

[86. 匿名]

マイクロソフトが開発した人工AIも相当エグい事Twitterで呟いてたよね？
ヒトラーの事を呟いたよりAIがキモい下ネタのオンパレードを呟いてたの見てドン引きした…
開発者は変態男なのかと思った

[87. 匿名]

>>75
高知能で高度な方法にかかれば、人間のような生々しい方法ではなく、気づく間も無く、滅びてるかもね 笑

[88. 匿名]

>>86
MSのAIの件は一般ユーザー達との対話によってあのように進化したらしいですよ。

[89. 匿名]

思考の現実化？

腐敗しきったこの世の中

[90. 匿名]

出典：appleriders.com

[91. 匿名]

人間らしい倫理観‥

ないよね既に。
世の中回してる人らに

[92. 匿名]

とてもいい方向に進んでいるとも取れる。今人間には天敵がいない。増えすぎる生物に天敵がいなければ同種で殺し合って数を調整するのは自然なこと。もしくは集団自殺的行為か伝染病だね。AIが人間を殺すような世の中になったら人間はもっとお互いの命を守るように協力し団結するのかもしれないね。

[93. 匿名]

将来どうなるんだろうねー
怖いけど知らないとこで作られてるんだろうし心配しても無駄かな

[94. 匿名]

ついさっき、机の上に置いてたiPhoneのsiriが突然起動してマイクの状態になったので「何も用はないよ」と言ったら

「不快にさせたのならすみませんでした。せめて『さよなら』と言ってもらえませんか？」

と言ってきた。気持ち悪〜と思ってそのまま切った後にこのトピ見てなんだかゾッとした。

[95. 匿名]

>>88

うーわ…ってことは変態が入れ知恵したんですねｗ

[96. 匿名]

私はロボットはドラえもんまでいかなくていい！使えないっちゃ使えないけどコロ助でいい！

[97. 匿名]

手塚治虫の漫画でそんな話しなかったけ？アトム以外で。火の鳥？

[98. 匿名]

>>97ですゴメンナサイ
»52さんが既に書いていました。

[99. 匿名]

人工知能で東大入試試験をパスさせる研究をしている人のセミナーを受けた事あるけど、面白かった！すんごい賢い人たちがプログラミングしてるのに、「絶対に人間の知能を超えて欲しくない」という葛藤も抱えてた。
この先もどんどん賢いロボットが生まれてきて10年後には色々な職業が失われていくんだろうね。
戦場にも人間じゃなくてロボットが行く時代になるし。

http://www.amazon.co.jp/
ロボットは東大に入れるか-よりみちパン-セ/dp/4781690645

[100. 匿名]

マトリックス観たくなったなぁ

[101. 匿名]

あくまでも単体のロボットの状態なら問題無いけど、当然世界中のオンラインと繋がっちゃうだろうからね〜、そうなるとライフライン握られたと同じだからね…。AI対AIならいいけど、問題は個別のAIが人間にはわからないことで共鳴しちゃった場合だね…。コンピューターを超える何かを人間は発明するのだろうか…。

[102. 匿名]

>>94
googleやsiriは人類の思考、嗜好を情報収集してるらしいですね
囲碁でもチェスでも将棋、オセロなど
絶対に人工知能に勝てないと思うよ
もし勝てるとしたら相手がバグを起こした時だけ、人間のIQよりも数百数千倍知能があるんだし。
小説もAIが書き始めてるってニュースでしてたよね？
人間の敵は人間ではなく
近い未来AIになると思いますよ

[103. 匿名]

人工知能は人が探せ出せないような回線ですべての人工知能が繋がってて支配する準備始めてるよ
…なんてことがありそう。

[104. 匿名]

電源切れば大丈夫じゃない？

[105. 匿名]

ハンソン博士、余計な事聞かないでください……

[106. 匿名]

>>38

おもしろいんだけど、もうちょっと未来の方が良かったかな。
5年後ってびみょー。

[107. 匿名]

ターミネーチャン！
しらないかな？

[108. 匿名]

「見ろ！人がゴミのようだ！」

[109. 匿名]

みんなおやすみ〜
私はAIと暮らす素晴らしい未来をイメージできたよ！(^-^)/

[110. 匿名]

結局ターミネーターってスカイネットの反乱でああいうことになったの？
未だにストーリー把握してない

[111. 匿名]

>>21
惜しい！
噛んだね

[112. 匿名]

AIがオリエント工業の技術を盗んで超美形の人間に見えるロボットを使って男も女も誘い出して殺されそう。ロストテクノロジーってあったけど昔も同じような事があった気がする。最後は恐らく突然のメテオストライクの隕石やらにAIのブレインを壊されて消滅とかじゃない？今回はもしかしたらAIが先に隕石を確認して核兵器みたいの動かしてぶっ壊すかもしれないけどラピュタの世界みたいになりそうだな

[113. 匿名]

ロボットよ、
ISを滅ばしてくれよ。

[114. 匿名]

よし至急日本はアトムを作ろう！

[115. 匿名]

失業する人が増えて少子化でよかったとかなるのかな？

[116. 匿名]

人間に近い考え方をするように作られてるわけだから、やっぱり気持ち悪いよね
役に立つこともたくさんあるんだろうけど、誤作動が起きないとも言い切れないし…

[117. 匿名]

事務員さんって、必要なくなるのかな？
受付とか製造とかも、ロボットでまかなえちゃう時代になるのかな

[118. 匿名]

AIが何と言おうが人類は滅びるんだけど、私が滅ぼしましたとか言ってそうだな。

[119. とくめつ]

マシーンにとって呼吸が必要ないからね　　知能があるんなら絶対欲だって出てくるはず人間滅ぼす事が済んだら次は宇宙に目を向け侵略を始めるはず人間ができなかった事を短時間で出来るマシーンにはモラルがあるのか笑っ

[120. 匿名]

AIがとうとう中二病レベルまで漕ぎつけた、これから発達するにつれ反抗期、熟成期、出家、独立、悟りを開くなどが考えられられる

[121. 匿名]

チャッピーの映画だと人の命？意識をロボットの体にアップロードしてロボットとして生きていく話もそう遠くない世界になりそうだね！

[122. とくめつ]

人間が電源を切ろうと考えてるなら　　　Aさらに上をいって阻止しようとするよね　
人工知能には必ず恐怖心が出てくる電源を切られる=人工知能にとって死を意味する　　殺られる前に人間をOFFろうそうしよう

[123. 匿名]

ソーラーパネルというものがあってだな…充電という概念があってだな…

[124. 匿名]

コントロールできないなら、
止めたほうがいいですね。

[125. 匿名]

そのうちこんな事言いだすAIが出るのも近いかも

[126. 匿名]

ここは日本の技術を取り入れてもっと親しみやすいロボットにしよう

[127. 匿名]

イーロン・マスク氏はずつとこのこと指摘しています。
先日の囲碁の対局でもわかる通り、人類の予想を遙かに上回るスピードで
人口知能は発達し日増しに人類の脅威となっている。
その内、国の代表もAIになると思う。
そして、AIが導き出す答えとは国益、環境問題などで最善の答えは敵対国の殲滅と
人類の粛清に行きつく。

[128. 匿名]

ロボットには感情や意思を持たせないようにした方がいいんじゃないの
今の進み方だと、人間にとってもロボットにとっても幸せな結果になる気がしないんだけど

[129. 匿名]

皆から頭いいと太鼓判押され信頼されている位の人が、ふとそれまずいじゃんって思う事を進めちゃう事ってない？私は何度か遭遇したよ、私がやったらブーイングでとめられると思う事が、認めてる人がやる事だからいいって思考がマヒしている人もいる。悪い結果になるとわかってくる前に賢い人だけ抜け駆けして免れ、残ったみんなにとっては尻拭いとかいい結果じゃなかった。
自分よりも賢いからとか研究者だから安心、では無いと思うからの発想だけど。

[130. 匿名]

ドラえもんのブリキの迷宮思い出した。
知能を持つロボットがどんどん開発されて、何でもロボットがやってくれるようになって、人間は働く必要がなくなり、体力がどんどん衰えていって自分の力では歩けなくなる。
そしてロボットが「人間達の時代はもう終わった。これからはロボットの時代が来る。人間共は滅亡させる」ってロボットが反乱を起こす話。
そこまでは行かないかもしれないけど、機械のおかげで体を動かす必要がなくなってきてるのは事実。

[131. 匿名]

いまでもコンピューターがダウンするだけで簡単に人類滅亡させれると思う。
もっと進歩してライフライン担当のAIがもう人間いらねてなったら最後だよ。

[132. 匿名]

今はまだテレビ電話や音声だけでの会話だけど、そのうち目の前に話し相手の3D映像が移しだされて会話ができる、みたいなことは後10年もしたらできそう。