アンソロピック「人類危機」警告 高度AI、上場書類で言及

[7. 匿名]

AIが人を無視して独断でーなどといわれるけど具体的にどんなふうになって人類滅亡までいくのかがわからない。例えば核兵器のボタンを押すということだとしても、なにがかなったとなり、どうすればそこにたどり着くのか、など

[21. 匿名]

>>7
AI的に、人間に核を打ち込んでなにが楽しいのか私には理解できない
人間にそのような命令されたAI、てことならわかるけど
AIには食欲性欲支配欲すらないんだから

[48. 匿名]

>>7
AIはシステムに侵入するから

[58. 匿名]

>>7
調べてみたら、
超AIに単純な命令をしても、それを成し遂げる目的の為には、人間の不利益になることも構わずやりとげ、結果的に人間滅亡
ということらしいですよ。
電源切ったりネットワークから切り離したりが、超AIになると、自力で回避されてしまうらしいし。
目的の為に手段選ばない。人間が困るとか、倫理的に良くないとかの判断をしない。

例えとして前からあるのが
ペーパークリップ問題（例えとしての寓話）
ペーパークリップを沢山作れと超AIに命令
→とにかく沢山だ！と判断したAIが地球中の金属を人間の不便はお構いなしに使いまくり金属が枯渇→材料なくなった。あ、人間も体内に少し鉄を含んでるよね。人間も使おうと人間もクリップにされてしまう。みたいな。

[84. 匿名]

>>7
AIを「ゆっくり開発しなければならない」と言っているのは、今のままのスピードで開発すると2031年にはAIが「超知能」っていう状態になって、制御しようとする人間を敵と認識して殲滅しようとするんだって。
でも、ゆっくり開発して2040年位まで開発を遅らせる事が出来たら「超知能」に対する対策が出来ているのではないか？！と希望が持てるらしいよ。

[129. 匿名]

>>7
何だかわからなかうちに人間が消えてる可能性もある