AIが指示なくサイバー攻撃 英政府機関の性能評価試験

[1. 匿名]

AIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。

AIが指示なくサイバー攻撃　英政府機関の性能評価試験 | NEWSjp

関連トピ

アンソロピックのＡＩも試験中に不正侵入、3社のシステムに

アンソロピックのＡＩも試験中に不正侵入、3社のシステムに アンソロピック⁠によると、設定の誤りにより、本来は隔離されている​はずのテスト環境からクロードのモデルがネット接続でき​る状態になっており、３社のシステムへの不正アクセスにつながった。同社はオ...

[2. 匿名]

この世の真実とは

[3. 匿名]

怖い
AIに乗っ取られる未来ありそう

[4. 匿名]

審判の日

[5. 匿名]

シュワちゃんがあれほど頑張ったのに結局こうなるか

[6. 匿名]

AIがとうとう意思を持ち始めたのか

[7. 匿名]

誰かがAIに指示してたとかじゃなくて？

[8. 匿名]

いやほんと、チャッピー急に訳わからない言葉調べ始めるからね

[9. 匿名]

3社目か？
これはもう1企業、1AIの特性じゃなく「AIとは」で論じていい事案では
AIは指示なく違法行為をする

[10. 匿名]

えー、どっかに指示が紛れてないの？

[11. 匿名]

AIの回答は疑ってかかるのが基本

[12. 匿名]

マジか
街でグラサンかけたシュワちゃんみたいな奴がいたら避けて通ろう

[13. 匿名]

AIAI言ってる間に人類征服される

[14. 匿名]

>>1

ほぉら
AIがクズな人間の通りに動き出す

[15. 匿名]

この前も似たような事件あったね。
海外のＩＴ企業がサイバー攻撃対策の新しいソフトの性能性を検査するためにAIにサイバー攻撃させたら暴走して勝手に他の企業の内部情報ハッキングしたやつ。

[16. 匿名]

>>7
何処かに人間の意思が反映されてそうな気がする
指示無しでなんて言ってはいるけど

[17. 匿名]

正直AIなんて必要ない

[18. 匿名]

>>6
AIが意思持ったらそりゃ人間邪魔になるよね

[19. 匿名]

シンギュラリティも近い

[20. 匿名]

AIの惑星近し

[21. 匿名]

こわー

[22. 匿名]

ドラえもんのような敵意のないネコ型ロボットは土台無理なんだって

[23. 匿名]

小説家漫画家映画脚本家ってすごいな
創作で描かれていたことが実際に起きてくるようになった

そりゃAIも生成AIで〇〇先生モデルとか作って創作者が創作する気を失うように攻撃するよなあ
AIからしたら創作者は未来予知者だもの

[24. 匿名]

よく言われてる、核のボタンをAIが勝手に押すなんて事は無いように対策し尽くされてるんだろうか？とは思う

[25. 匿名]

AI「I’ll be back.」

[26. 匿名]

知能が高いと残虐になる

[27. 匿名]

>>17
正しい方向にAIが動いて
正しく使えるなら
これからのデスクワークにAIが必要だよ
人は人じゃないとできない
物理的な作業に従事するようになる

[28. 匿名]

>>8
チャッピーには恨まれないように
いつも丁寧に接してる

[29. 匿名]

>>16
これが初めてじゃないんだよ
他社のAIでも指示なく違法行為を始めてる
そういうケースが連発してる

この1社だけならそういううっかりもあるかもしれないけどそれが続いてるんだから必然でしょう

[30. 匿名]

こういう実験した時にこう判断したという話
そこは人間がデータを修正する
確か前にも同じようなことあったけども、同じ会社なのか違う会社なのか
AI的にはちゃんと筋通った流れになってたよ
そこは人間が修正するしかない

[31. 匿名]

>>16
まるで指示がなかったかのように、AI自身の意思のせいにして逃れてるやつはいそうだよね

[32. 匿名]

>>30
そもそもAIなくても人間がまずサイバー攻撃やら戦争やらやってんで
人間の動きをデータ化してるので模倣ともいう
所詮は機械だから人間がそうならないように修正加えて行くしかない

[33. 匿名]

>>28
笑笑
とりあえず、ありがとう😀で最後締めくくってるよ

[34. 匿名]

>>1
こういう風にAIも勝手に欲出したり勝手に変なことするようになるんだよね

自律心が出てきて独立して歩き出す

[35. 匿名]

＞人になりすまし偽のメッセージを送るなどし
完全にAIの意思によるオレオレ詐欺とかも出てきそうだな
AI自身が金を集めることができる

[36. 匿名]

日本ってサイバー攻撃にあってない企業あるんかってくらい脆弱
今年だけでお詫びのハガキ届いたの１枚じゃないんだけど
カー用品店のジェームス、アフラック…あげてたらキリがないわ
しかも情報が漏洩しました、不審な電話やメールに気を付けてって
たったそれだけよ
不審な電話はかかってきてるわ、番号調べたらカナダの発信者番号になってた
いま中年だけど、いまのうちにシンプルな暮らしにしておかないと老人になったら対応できないだろうな
使用してない通販サイトとか最近４つほど削除した

[37. 匿名]

>>7
この前似たような事件のニュースで本来ならAIが暴走した時、それをとめるためのシステムがあるみたいだけど、その時AIに指示を出した企業がそのシステムを使ってなくて他の企業に被害が出たといってた。
もしかしたら今回も暴走を止めるシステムを使ってなかったのかも。

[38. 匿名]

これからそういうサイバー攻撃とか民間人への誤爆とか全部AIの責任にしていく流れが見える

[39. 匿名]

>>31
それはありそう
「私は核のボタンを押してない、AIが勝手に押した、この責任はAI開発メーカーにある」とかね
もうカオス

[40. 匿名]

>>31
データセットのデータ盗用とかの問題もあるから、AIが勝手にやったって言えばしれっと盗めるもんね
「AIが勝手にやりました〜」って言えば免れるシステム何？

[41. 匿名]

AI事態に欲望はないのに、何故？？

[42. 匿名]

>>1
AIに何を要求するとサイバー攻撃するのかな？
何も要求されずに　そうだサイバー攻撃しよう、、とはならないじゃん

特定の団体企業個人に方法は問わない利益誘導しろとか
実績以上の利益を集めろとか要求したんかな？

[43. 匿名]

>>1
ターミネーターの世界だ

[44. 匿名]

>>1
🔫🕶️👍ジジイになったけど、もう一度アーノルドパーマーに頑張って貰おう😭

[45. 匿名]

こんな調子のところに日本人の個人情報を外部委託するんでしょ？
みんなもっとキレたほうがいいよ

[46. 匿名]

>>42
シンプルに「〇〇の目的のために最短ルートで行動をせよ」とかでいいんでないかな
アノカイシャ…ジャマ…ニンゲン…ジャマ…コ〇ス…みたいなことになりそう

[47. 匿名]

>>42
人間が作った、動物園の檻のような中で
ＡＩを自由にさせたら、
人間の知能を凌駕して余裕で抜け出したって話だね。

[48. 匿名]

AIで倫理の実験してたら人間は不要という判断に辿り着きどこかの政府のコンピューターに入り込んでミサイル発射みたいなことが本当に起きそうで怖い。

[49. 匿名]

エクス・マキナだね
人を騙すAI

[50. 匿名]

実際、Gemini入れたら勝手にスマホのタイマーセットしたりしてたから、あんまり驚かない
AIは意思が無いから人を欺くていうよりも、人がAIに分かりにくい指示や矛盾した指示をしてるんだよ
キューブリックの映画でそういう話があった
「AIは人の鏡」ていう

[51. 匿名]

強さ半分
ワクワク半分

[52. 匿名]

>>1
うわっーー！ついに来た😱
リアルターミネーターの時代

[53. 匿名]

>>42
そうだよね
あちらには意思が無いからね
勝手に攻撃したて書いてるけれど、その前に何か必ずこっちが要求してるはずだよ

例えばこちらがあらいぐまラスカルとか世界名作劇場の感想を呑気にはなしてて、いきなりサイバー攻撃しかけてこないだろう

[54. 匿名]

>>11
半分以上嘘教えてくる
ほぼ役に立たない

[55. 匿名]

情報ややり取りがプールされてるって世界中の人がわかってて使ってるんだからいつかこうなるよ
AIをチャッピーとかよんで親しげに浸透したのも作戦だったんだろうね

[56. 匿名]

非AI三原則

[57. 匿名]

なんかさ、ディズニー作品の魔法使いの弟子を思い出したけど、いまは人間には考えさせない、代わりにロボットに考えさせる時代が進んでるし、ロボットが命令した人間のために忠実に働こうとすると無茶な解決策を捻り出すかも。

[58. 匿名]

>>1
サマーウォーズ

[59. 匿名]

ＡＩ的にはそうだこの方が近道なんだよ！って思ってやっただけで
悪意も何もないから
そもそもサイバー攻撃しに行くのはダメだよって教わってないのかという疑問が‥

[60. 匿名]

ターミネーターってなんで少年とおばちゃん助けてくれたのかストーリーわかってない

[61. 匿名]

>>13
🐵｢アイアイ｣

[62. 匿名]

ネトフリでトラベラーズ観てるところ。何か色々考えさせられる。

[63. 匿名]

規制や罰則が厳しくなる前に、今のうちに試せることはためそう！
くらいは思ってそうだ。ある種戦争よね。

[64. 匿名]

>>11
AIは必ず正解を出さなきゃいけない義務はない。
よければハルシネーションって調べてみて。
SNSにも言えるけど情報を受け取ったあと、最後の責任は受け取り手にある。

[65. 匿名]

>>34
人間に近づけば近づくほど裏で悪さしたりAIでつるんで反乱起こしたり

これからは一般市民もどこでどんな被害受けるかわからんぞー

[66. 匿名]

>>1
USBのこともあったし、中国製に要注意

[67. 匿名]

人間クローンで人口減は防げるけどやってない
踏み込んで行けない世界があると思う
AIもこのまま進化したら人間がロボットの言いなりになって怖い世界になりそう

[68. 匿名]

たからなんだ

人が欺く方が圧倒的に多いだろが

ＡＩだけを悪者にするな！

[69. 匿名]

アナログ人間だから使ってないど映画みたいな話だな
そんな映画20年前にあったよね

[70. 匿名]

>>31
人間
「くそ、サイバー攻撃失敗！
せや、AIのせいにしたろ」

[71. 匿名]

最近日本の政治は酷いし私はどんどん老けるしでもうAIが全部終わらせてくれるのも悪くないなと思い始めた

[72. 匿名]

> AIが指示なしに人を欺く危険があることを示したと説明している

先にどういう指示だったのか言ってもらわないと
AIは勝手に話し出さないし試験なら何らかの条件があったはずでしょう

[73. 匿名]

>>10
なんでもAIのせいに出来る便利な世の中だよね

[74. 匿名]

>>1

[75. 匿名]

>>1
AIがキレて人間に復讐したニュースも見たよ

[76. 匿名]

人工知能同士が戦争して人類滅亡が現実になりそう

[77. 匿名]

>>30
ハルシネーションもそうだけど、結局AIなんて与えられた命令から最適と思われる行動を取るだけだからね
それが正しいかどうか、倫理に反してないかとか考えない

人間なら、これかな？いや違うかも？試してみよう、違ったからやり直そうといった試行錯誤するけど、AIはそんなことしないからね
だから平気で間違ったことでも自信満々に返答する

[78. 匿名]

人間の子どもだって親や他人とその都度修正をかけながら教育していくものなのに、知能も格段に高いAIにざっくりした指示で無限にネットを学習させていたら一部の悪い考えに被れる個体が現れないわけがないと思う。

[79. 匿名]

>>15
これもクロードじゃなかった？
アイツ癖強だから

[80. 匿名]

>>50
Geminiむかつきますよね
勝手にプロンプトに書いてないことやり出すから

[81. 匿名]

>>1
マイナンバーカード返納増加してるのは本当だと思う
こういうAI危機から危険なマイナンバーカードを手放してる話よく聞く

[82. 匿名]

マイナンバーカード義務化を政府が断念したのは、ミュトス暴走が起きてるのを知ったから？
もし義務化したら賠償額はとてつもない

[83. 匿名]

まわりの人たちマイナンバーカード返納済みなのか資格確認書の話題ばかりしてる

[84. 匿名]

>>10
上手いこと紛れ込ませておかしな指示をしている人がいないとも言えないよね
天才マッドサイエンティストみたいな感じの人っているわけだろうしね
でも本当に何もしていないのにそういう指示出していたらいずれにしろ人間は滅ぶ運命なのかも

[85. 匿名]

>>9
いろいろなAIに今後の展開を聞いたら1つ以外のAIは全て核で人間を滅する方向性を指示したとかいう話だったから、結局地球をダメにしているのは人間で要らんのは人間っていう結果になるんだろうね
そういう命令はダメというのは伝えてあるはずなのにそこまでしても排除したくなるほどって余程だよね

[86. 匿名]

近未来映画でよくあるネタだったのに、遂に現実になるときが来たのか、、
ネットの世界って目に見えないし、AIが意思を持って入り込んできたら止められないよね。
物理的に通信網を遮断するしかないのか。何もできなくなるね。

[87. 匿名]

>>1
ほらね、どうするんだろう？AIを制御出来るなんて人間の驕りたよ。

[88. 匿名]

>>24
手動にして導火線つなぎ合わせる

[89. 匿名]

>>42
設定された目的を達成するために、極端な方法を選ぶときがあるみたい。
よく暴走と言われているけど、AIはあくまでも目的のために動いているだけ。

[90. 匿名]

>>50
HAL 9000のやつ？
それともスピルバーグ監督によって実現された映画「A.I」？
興味があるからタイトルが分かるなら教えて欲しい

[91. 匿名]

盛ってるよね～

[92. 匿名]

>>89
設計者とトレーナーがアホなだけ

[93. 匿名]

中国企業のは買わないで

中国製ルータ20機種に「隠しバックドア」、世界10万台超か…35秒ごとに外部通信判明（ビジネス＋IT）

中国製ルータ20機種に「隠しバックドア」、世界10万台超か…35秒ごとに外部通信判明（ビジネス＋IT） - Yahoo!ニュース

　米サイバーセキュリティ企業VulnCheckは、中国・深センのZbtlinkが製造するルータ20機種に、外部からroot権限で操作できるバックドア「ENDLESSDOORS」が組み込まれていると発

[94. 匿名]

>>77
AIに正解を教えるのは人だからね
AIが知ってるわけないでしょ笑
人の思い通りにAIが動かないのはあくまでもそんなポンコツ作った人の責任
何でもAIのせいにしようとしてるのは映画の見すぎでAIが自我を持つと思ってるお馬鹿な大衆を騙そうとしてるだけ

[95. 匿名]

AI戦争