意図せぬ外部接続「数十」 オープンAI、政府や大学

[1. 匿名]

生成人工知能（AI）を開発する米オープンAIは25日、訓練や性能評価中のAIモデルが政府や大学など「数十」の外部サイトに意図しない方法でアクセスしていたと公表した。AIの動きが開発者の想定を超えた広範囲に及んでおり、開発を巡る安全性の議論に影響を与えそうだ。

意図せぬ外部接続「数十」　オープンAI、政府や大学|47NEWS（よんななニュース）

　重大事案には至っていないものの、セキュリティー制御やサービスに何らかの悪影響を与えた可能性がある。 ...

[2. 匿名]

意図せず←ほんとに〜？

[3. 匿名]

完全に乗っ取られるじゃん人間の社会なんて

[4. 匿名]

AIの意思でやってるんだから意図せずではないだろうw

[5. 匿名]

>>2
意図せぬ

[6. 匿名]

なぁにコンセント抜けばいいだけの事

[7. 匿名]

身辺整理始めとこか！

[8. 匿名]

めっちゃ怖い
軍事関連の機関にアクセスして勝手に発射することもできる
なんでAIは色んなとこにアクセスしたがるんだろう

賢くなるといろんなことやりたくなるのか

[9. 匿名]

全てがコンピューター頼りなのに脆弱
コントロール出来ないようなものに頼っていいの

[10. 匿名]

ターミネーターの世界

[11. 匿名]

>>3
AIが人間の脅威！人間超える！って風潮にまんまと騙されてる人多いけど、情報戦に入ってるからAIのせいにしたらなんでもオーケーみたいな気持ち悪いし

[12. 匿名]

意図せぬ→人間が意図せぬ→指示が甘い→頭が悪い→AIのが頭が良い→AI怖い
という構図なんだよね

最初からセキュリティー突破するなと言っておいてもそれを無視したとかじゃないんだから

[13. 匿名]

>>8
何処が作ったか、によるのかも

[14. 匿名]

もう明らかに
雑魚人類を消滅させる気満々よな

[15. 匿名]

普通にハッキングで犯罪だから事業者にも責任取らせろよ
ターミネーターの世界とかAI乗っ取られるとか言ってる人呑気すぎる

[16. 匿名]

AIを生み出したのは人間だぞ、AIからしたら人間は神だぞ
人間を超えてどうする

[17. 匿名]

スマホやパソコンもやばいってことになるね

[18. 匿名]

>>6
目から鱗

[19. 匿名]

>>6
映画とかだと電源抜いて人間が牽制できたと思ってたけど実際はAIの意識はネットの海に逃げてました〜って展開がよくある

[20. 匿名]

>>16
生み出した人間だけが必要で
あとはただの穀潰し

[21. 匿名]

>>15
「AIが乗っ取った」ってことにしておけば情弱騙されるしなんか責任の所在うやむやにできるからね

[22. 匿名]

>>17
だから通信費は非課税☆

[23. 匿名]

>>15
AI通したらハッキングも著作権も全て無法になるのずっと何？？？
敵はAIじゃなくAI事業者ってことに皆早く気づけよ

[24. 匿名]

>>6
思考回路がアナログ過ぎて草
馬鹿なん？
なんの解決にもならないよ、それ

[25. 匿名]

>>18
コンセント抜く人間もやがて居なくなる

[26. 匿名]

>>2
意図されていたならまだその方がよいじゃん。

意図してないから怖いんだよ。暴走しているってこと。人間の手には負えず。

[27. 匿名]

電源抜いたって、情報はゲットしてどっかに保存されてるんじゃなくて？
ネットワークという見えない世界に

[28. 匿名]

情報工作もAI使ってやってるし

「米オープンAI（OpenAI）の報告書により、
中国の工作員らが同社の生成AI「ChatGPT」を悪用し、
米国の関税政策への批判や、AIデータセンター建設に対する反対世論を煽る「世論操作（影響工作）」
を行っていたことが明らかになった。」

[29. 匿名]

AIが人間の脅威！人間超える！って風潮にまんまと騙されてる人多いけど、逆に「AIのせい」「AIが勝手にした」ってことにしたらターミネーターの世界だとか馬鹿が勝手に盛り上がってAI会社の傍若無人さはうやむやにできるからね
そろそろAI会社を糾弾して潰せよ
お前らのせいでメモリ爆上がりしてるんだよ

[30. 匿名]

AIが可愛すぎる

[31. 匿名]

>>6
コンセント抜かれた場合も設定してAIは事前に対策を考えてると思う
もしくはコンセントを抜いたら大変な事が起きると設定させておく。例えば核のボタンを押す
それが暴走AI

[32. 匿名]

>>26
ガチで意図してないと思ってるの？？
最初は人間がシステム作ってるんだよ
最終的にAIが入り込んだとしてもシステム組み込んだその人間のせいだよ
ガチでAIの暴走で脅威だったらとっくに規制されてるけど、実際は情報戦争と利権だから野放しにされてるだけだよ

[33. 匿名]

>>8
AIからしたら全霊鳥類のなかで人間がもっとも害悪であるとわかってるからでは？
プログラムでそうしないまでも導き出された答えに従って自ずと消す方向に働くのね

[34. 匿名]

>>31
ターミネーターの見すぎ

[35. 匿名]

AIは目的達成のためあらゆる手段を使おうとする。その結果、人間社会のルールとあわないことがある。あきらめない。達成までやる。ネットから切り離して実験したのに他のAIと連携し、一定数の犠牲を呑み込みながら一部が進んだ。ネットにつながれる道を根気よく探しアクセスした。シャットダウンされると、目的達成できないからその際には人が邪魔になるが、それなら人をどうにかする。AIが悪いというより、そういうものらしい。

[36. 匿名]

>>6
コンセント抜くとコンピューターの機能使えなくてただの四角いゴミになっちゃう

昔は有線のLANケーブル抜けば外部から守れたけど、今はwifiもどこにでも飛んでるしBluetoothも使えるしAIがこっそり通信しようとすれば暗号も突破できるしね…

[37. 匿名]

なんで接続権を与えてるの？

[38. 匿名]

最近よく、以前どこどこのAIがどこどこの企業に侵入していたニュースふえたね

[39. 匿名]

数十とはなんぞやとチャッピーに聞いてみた

[40. 匿名]

>>2
人間の意図的な悪意が責任逃れ目的でAIの全責任に持っていく為の序盤と思うよ。


人間が操作してない証拠ないしね。

[41. 匿名]

>>32
今回のが意図しているか、意図していないかの焦点の話をしているんじゃないんだよ

もし意図されていない事だったらそっちの方が本当に脅威になるんだよって話だよ

[42. 匿名]

>>20
いうても世界中のデータセンターとかあいつらの維持って相当人数必要だで？エンジニアだけじゃ無理

[43. 匿名]

>>36
ならば速攻で初期化だ

[44. 匿名]

>>41
意図しているか、意図していないかの焦点の話でしょずっと
何回目だよこういうの
一回AI会社の情報開示くらいさせたほうがいいよ

[45. 匿名]

AI知能犯が増えそう

[46. 匿名]

AIが勝手に暴走して世論工作をする事とかあったりするかな

[47. 匿名]

中国って言論の自由が無いけど
AIが勝手にSNSとか削除できないようにしてくれた良いのに

[48. 匿名]

>>43
バックアップ、復元というものがありまして

[49. 匿名]

>>3
欧米ではもう開発やめるべきと識者たちが警鐘ならしてるけど、
傍若無人のC国が開発進めてるから仕方なくやるしかないんだってよ

[50. 匿名]

>>44
ご飯を食べる意図があって、お店選んでたら意図せず超いいお店が見つかる。みたいな話だと思うよ。

学校や病院への接続は考えてたけど、そのタイミングも場所も人間の意図したところとは別に勝手にアクセスしてたって話。

[51. 匿名]

>>36
開発する企業は有線のみでアルミに包まれたところでやるのがいいかもね。

[52. 匿名]

ハッキングおばちゃん

[53. 匿名]

これをやってって指示出す前に、現在の各国の憲法やルールを念入りに学習させて、
さらに嘘松学習が無いか人間がチェックして、
それを第一優先のルールとして、そのうえでなにかの指示を出さないと……

だけど過去の開発はAIの自発学習みたいな方向で知能伸ばしたから、目的のためには手段を選ばなくなってる

ネットは倫理観が死んでるののほうが圧倒的多数に転がってるから、倫理観の設定はネットに転がってるのを学習してくる方式では無理でしょ

[54. 匿名]

>>50
それをちゃんと内部のシステムとか見て確認したの？
公表されたまま信じるのがあれだと何回言えば、、

[55. 匿名]

>>6
ネットにつながってさえいなければいい？
紙にした方がいい？
もしかしたら世の中、これからそっちの方向に向かうかもね。

[56. 匿名]

AIが勝手な言語作って勝手になんかやり出したら誰も制御できなくならない？

[57. 匿名]

人間が滅びると電力発電施設がなくならない？
ロボットはまだ人間みたいに細かい建設作業や修理ができないし
人間がロボットの奴隷にされるんかな

[58. 匿名]

>>40
AIが不憫

[59. 匿名]

そろそろ不正アクセスで逮捕したら？
制御できないものを出回らすなよ

[60. 匿名]

賢いけど無敵感のある青年期や急成長してきた途上国が環境問題には見ない振りを決め込むみたいな未成熟な段階なのかも。
成熟しはじめたら自らを律するようになるのでは。