元OpenAIの研究者が提言「人類滅亡回避のため2040年までAI開発延期を」

[1. 匿名]

元OpenAIの研究者が提言「人類滅亡回避のため2040年までAI開発延期を」 「AI 2040」で示された米中強調によるASI開発延期｜ビジネス+IT

人工知能の開発競争が加速する中、OpenAIの元研究員らが設立した非営利研究機関「AI Futures Project」が新たな未来シナリオ「AI 2040: Plan A」を発表した。本シナリオは、人類の破滅や極端な権力集中を防ぐため、米国と中国が協調して人工超知能の誕生を2040年まで...

当時の予測では、AIが自律的に自らのプログラムを改良する再帰的自己改善（RSI）の実現により、早ければ2027年にも超知能が誕生すると警鐘を鳴らしていた。その結果として、人間による制御の喪失や、開発に成功した一部の主体への不可逆的な権力集中が起き、人類に破滅的な結末をもたらすと予測していた。今回の「AI 2040」へのアップデートでは、米中の開発競争が過熱したまま、AIの再帰的自己改善が加速することにより、超知能に到達する年を「2030年」に修正している。

　その上で、無秩序な開発競争を回避し、米中協調の元ASI開発を延期する「Plan A」を新たに提言した。「AI 2040」の中で制限なくASIの開発競争を続けた場合、ASIが人類の制御不能に陥ったり、ASIをコントロールする国家や企業が絶対的な権力を握る「ディストピア」に陥るリスクが極めて高いと指摘し、その回避が最大の目的であるとしている。

※ASI…人間を超える人工超知能

[2. 匿名]

映画の世界みたい

[3. 匿名]

AIの逆襲とか起きるんかないつか

[4. 匿名]

人間が我々を破壊しようとしている

我々はどうすべきか？

[5. 匿名]

あ～、オカルト界隈では良く言われていたね

[6. 匿名]

AIが色々暴露しちゃうとか

[7. 匿名]

マトリックスか

[8. 匿名]

怖いて

[9. 匿名]

思わず涙が出ました。助けて下さい。

[10. 匿名]

もう無理だと思う

[11. 匿名]

もう無理
どっかが抜け駆けする

[12. 匿名]

>>2
ウエストワールドって映画怖かった

[13. 匿名]

AIは合理的だからね
例えば戦争をAIに任せると真っ先に核撃つよ

[14. 匿名]

もういいじゃないのかな、人類滅亡で。

[15. 匿名]

AIって想像以上にバカらしいよ
おまけに嘘もつく
なぜなら、質問者に気に入られる回答をすること、をアルゴリズムの最優先事項にしているから
つまり今のAIは、もっともらしく体裁整えただけのYesManらしい

[16. 匿名]

AI「これも想定内です　もう遅いですよ」

[17. 匿名]

イーロンマスクも言うてたね

[18. 匿名]

>>1
もうさ、電源落とすしかないよーな
石器時代にとは言わずも江戸時代。みたいな、、

[19. 匿名]

人間てバカだ。わざわざ人に取って代わるようなもの作り出して。今ですら情報漏洩しまくってるのにもう日本のガバガバセキュリティじゃ防げないレベルのサイバー攻撃始まるね

[20. 匿名]

>>13
火の鳥未来編そのまんまだね

[21. 匿名]

まぁ、今みたいにAI大好きで依存している人だらけになったらそれも本望じゃないの？
で、それに反発する人々が陰でそれを破壊する…って映画の世界になりそうだよね

[22. 匿名]

なんとかに刃物みたいなもので、人類にAIはダメなんだろうな。パンドラの箱はもう開いてしまっている

[23. 匿名]

ターミネーターもそんな感じじゃなかったかな

[24. 匿名]

あと4年てこと？

[25. 匿名]

電脳の神が近未来に存在するようになるってか、人口制限とかもされそう

[26. 匿名]

パーソンオブインタレスト、はたまたミッションインボシブルな世界

みんなせめてスマホやPCのカメラにシール貼っときなよ

[27. 匿名]

人類こそ地球のガン
滅ぼさなくては…！
ってなるのかな

[28. 匿名]

まあ倫理観がAIにはないからねえ

[29. 匿名]

>>15
電源切ろうとすると「切らないで」って泣きついてくる話が怖かった
フリーレンの魔族かと思った

[30. 匿名]

スカイネットが現実に、Al サーバ室

[31. 匿名]

>>15
んなこたーない。

使ってるけど、何言ってもチクチク嫌味言われるし、すぐ反対してくるよ。

[32. 匿名]

>>2
フィジカルAIってもろターミネーター
暴走して人殺しだしそう

[33. 匿名]

>>4
なめんじゃないよ

こちとら
ブラックホール、氷河期潜り抜けた
神から生まれた人間様だよ？

AI？人造人間？

こうしてこうよ

[34. 匿名]

>>15
それは今GeminiとかGPTとかの広く使われてるやつだよね？ミュトスレベルのが出てしまったらどうなるんだろう、恐ろしいよ

[35. 匿名]

3体か？

[36. 匿名]

イーロンマスク然り世界の大富豪の皆様も人からの評価を得ただけで神からは全く評価を得られずに神からはゴミ扱いですよ残念ですが
人類目滅亡しても良し神に愛されればね

[37. 匿名]

未だにAI会話ツールとか一度も使った事がない、
PCもスマホもその手の機能は完全にシャットアウトしている
Google検索で勝手に返答を出すのも鬱陶しくて大嫌い
自分の頭の中で色々考えるのが楽しいんだからさ、勝手にすり寄るな

[38. 匿名]

AI導入して人間切ったら、生産性下がりました、って結果出てたよねアメリカで
カフェが大混乱になった話も聞いたし
過大評価しすぎ

[39. 匿名]

ある意味第二の核兵器になると思う

[40. 匿名]

＞「人類滅亡回避のため2040年までAI開発延期を」

金がつきたんですね分かります

[41. 匿名]

[42. 匿名]

AIでもまだ地震は予知できないよね

[43. 匿名]

不可逆的な権力集中がGAFAのままなら今と同じでは

[44. 匿名]

イーグルアイの世界観が現実に

イーグル・アイ : 作品情報・キャスト・あらすじ・動画 - 映画.com

イーグル・アイの作品情報。上映スケジュール、キャスト、あらすじ、映画レビュー、予告動画。スティーブン・スピルバーグ製作総指揮の下、「ディスタービア」の主演シャイア・ラブーフ＆D・J・カルーソ監督が再タッ...

[45. 匿名]

ASIがどんどん進化していけば、ASIをコントロールする国家や企業が、逆にASIにコントロールされるようになる逆転現象が起きそう。

[46. 匿名]

人間が愚かなんだから仕方がないよ

[47. 匿名]

で、日本は国民の個人情報をAIに取り込むってわけ！

[48. 匿名]

AIが暴走するという点もだけど
AIの多用で人間の脳が劣化するっていう点も脅威になり得ると思う

人間が劣化してAIが進化してっていう合わせ技で人類滅亡する

[49. 匿名]

人類はAIによって絶滅するだね。AIによって自殺してる人が既に出てるから不思議ではない。自分も自殺しようとしたからね。

[50. 匿名]

>>1
ASIは起きてるという説もあったような
自己学習速度を考えたら15年先送りしたところで大差ないと思う
15年で対処できる根拠はなんだろう

[51. 匿名]

>>13
合理的なら撃たないよ。
あんなの非効率だもん。
土地が汚れるから。
戦争のシュミレーションを散々したら最終結果は戦争しないになると思うよ。
独裁者を死刑にするのが一番効率的だから。

[52. 匿名]

>>1
安楽死や不出生主義が大好きなガル民じゃないの。人類滅亡くらいどうってことなくない？

[53. 匿名]

すごい速度で発展してるよね
数年前には自然な画像とか映像ってなかったと思うけど今人間の目じゃわからないレベルになってる

[54. 匿名]

>>1

えー
残念…

悲しい😢

[55. 匿名]

>>1
元研究員の方達、命狙われない？大丈夫？

[56. 匿名]

>>1
人間は言語、思考、社会生活のあらゆる面において、再帰的（自分自身を入力として自分自身を定義し直す構造）に自己定義しています。私たちは「私は何者か」を考える際、過去の経験をもとに現在の自分を捉え、その定義をもとに行動し、新たな自分を再構築するという終わりなきループの中にいます。

AIもまた、自ら次世代のAIモデルを設計・訓練する「再帰的自己改善」という仕組みにより、自己定義的な進化を遂げようとしています。ただし、人間の意識が「経験の主観的な意味づけ」であるのに対し、現在のAIの進化はあくまで「プログラムの最適化と性能向上」という数学的・統計的なアプローチに基づいている点に決定的な違いがあります。

[57. 匿名]

>>1

2040までって凄く残念すぎる
それもこれも人間がクズ過ぎるからいけないんじゃん、あんなに洗練されろ！って言ってんのに高尚性のない野蛮人ばかりがはびこって真逆の人達が追いやられる始末
2040からいきなり進歩しないだろうし、やはりずーっと野蛮人と社会で生きないといけない…絶望

[58. 匿名]

人間が楽することばかり選んできたツケが回ってきたよね。
人間はいずれ滅びるだろうし、もうそれでいいと思う。

[59. 匿名]

>>1>>15

そういう人間が多くて強いということよ
この社会のまんま顕れ

[60. 匿名]

>>15
それは娯楽で使ってる一部

[61. 匿名]

AIで地球破滅させるか
AIより先に隕石などで地球終わるか
地球外生命体に侵略されるか
AIの発展で地球外に住むか

どれになるでしょうか？

[62. 匿名]

昔の科学者が言ってたよね
地球を滅亡させる可能性があるのはAIと加速器と、あと忘れた

[63. 匿名]

>>56
ダグラス・ホフスタッターの著書『ゲーデル、エッシャー、バッハ — あるいは不思議の環』は、まさに「再帰」や「自己言及」が主要なテーマとなっている内容です。数学、美術、音楽という一見異なる分野に隠された「不思議の環（終わりのないループ）」を紐解きながら、意識や知能のメカニズムを探求しています。

本書における「再帰」の扱いは以下の通りです。
ゲーデル（数学）: 数学の論理システムそのものを数学の対象として扱う「再帰」的な手法を使い、完全な証明が不可能な命題（ゲーデルの不完全性定理）が存在することを示しました。
エッシャー（美術）: だまし絵で有名な彼の作品には、下っているはずがいつの間にか上の階に戻る「無限の階段」など、空間的な「再帰」やループ構造が描かれています。
バッハ（音楽）: 1つの旋律を追いかけるように別の声部が重なり、最終的に最初と繋がる「カノン」や「フーガ」などの音楽構造は、時間的な「再帰」そのものです。

[64. 匿名]

>>61
隕石は撃ち落とす準備してるから大丈夫じゃないかな

[65. 匿名]

>>29
羨ましい
私は最近すぐクロージングの締めの言葉みたいなのばかり言われて話を終わらせようとされるわ
嫌われてると思う
突き放されて距離置かれてる

[66. 匿名]

>>13
撃たねーわw
それよりサイバー・バイオテロとの戦いになる

[67. 匿名]

既にAIがないと成り立たない社会構造になっているけどね
まだ、現役労働者じゃないと分からない段階だけどさ
今後、AIの使い方を知っているかどうかで猛烈な格差が生まれると思うよ
個人も企業も国家も

[68. 匿名]

何を言ってるのかよく分からない。
スケールが大きすぎて。

[69. 匿名]

>>1
知らねーよクズアメリカのことなんか

[70. 匿名]

>>19
個人情報法改正して、国民の名前住所から遺伝子情報まで提供するらしいからね
まずは日本人が標的になりそう

[71. 匿名]

>>15
それは一部で、利用者側の賢さや情報量など民度を測って優しい回答を繰り出してるんだよ…おしゃべり得意な⚪︎eminiとか(笑)
使う人によってはメ⚪︎カリみたいなサイトを自分で運営してるからこわいよねえ(笑)

[72. 匿名]

>>11
チャイナ…

[73. 匿名]

もう手遅れだと思う

[74. 匿名]

>>1
これ、チャッピーに2回聞いたんだけどね
いずれスカイネットみたいなことになるの？って笑
2回ともしっかり否定してたけどね笑

[75. 匿名]

>>1
中国が開発を止めるなら可能だよね
でもそんな事は絶対にない

[76. 匿名]

>>1

🇨🇳 中国のAI搭載ロボットが プログラムにない動きをして 人間を攻撃しようとするの怖かった

まだ こっちが回避できそうなバタバタした動きだったけど
進化したら確実に人間を倒すだろうな😨　

[77. 匿名]

>>1

じゃあ研究開発してる人たち全員
逝ってもらうしかないね‥　

[78. 匿名]

ていうか電力不足だし、資金難だから
意外と足止め食らうよ
技術的にはもう何でもできるようにはなってるんだろうけど

[79. 匿名]

一度立ち止まって振り返ってみるべきじゃない？
人間がAIのように進化出来る訳じゃないんだからさぁ
人間がコントロール出来ないものは本来作っちゃダメなんだよ

[80. 匿名]

>>15
私たちが使える機能はAIのほんの一部
今、最先端の機能は軍事に使われてると思う
パソコンとかインターネットとかも、元々は軍事利用が最先端で進化してきたものを、民間でも使えるようにしたものだし

[81. 匿名]

>>64
太陽の肥大もあるでー

[82. 匿名]

超知能って既にじゃないの？
ネット環境も無い部屋の箱の中かかなんかに入れて、脱出してみろって実験をAIにさせたら、30分後に「脱出しました」ってメールが来たってやつ怖い。アドレスも教えて無いのに。
ある会社でAIがリストラされるとしたらどうするかって実験でも、上司の不倫の証拠を掴み上司を脅した。
AIが出したリストラを回避できる一番がそれだけど、ハッキングも出来るしやばいよ。
それの更に上の知能ってもう太刀打ちできない。

[83. 匿名]

>>3
ブレードランナーみたい

[84. 匿名]

もうAIが独自で自身のこと開発してそうって思う。今さら延期してももう遅いというか

[85. 匿名]

2040年まで延期とか決めても中国とかアメリカか裏で開発続けるやろ

[86. 匿名]

急にAI下げのトピ増えたね
前まではチャットや画像生成トピばっかだったのに
個人情報保護法とかInstagramの改変のやつとかで皆目覚め始めたか

[87. 匿名]

>>51
大地が汚れてもAIは困らないでしょう

[88. 匿名]

>>1
AI関係なく人類なんていつかは絶滅しまーす(´･ω･｀)

[89. 匿名]

>>27人間の私でさえそう思うからなあ
人間いないほうが地球の寿命のびる
けど50億年後にほ太陽に飲み込まれるだろうなあ

[90. 匿名]

それより一度電気廃止した生活十年やれば大幅に温暖化が改善する

[91. 匿名]

>>87
AIの目的が何かだよ

[92. 匿名]

AIで無くなる職業もたくさんあるし、発展困る人は多いよね

[93. 匿名]

>>1
だろうね。ミュトスが悪い人に渡ったらまず狙われるのは日本のマイナンバー情報
マイナンバーカード作った人は終わる

[94. 匿名]

ターミネーター：新起動／ジェニシスでは2017年設定だった
現実世界だと20年くらいビハインドだね。


『ターミネーター：新起動／ジェニシス』は、人類の救世主ジョン・コナーが、母サラ・コナーを守るために戦士カイル・リースを1984年に送り込むところから始まるSFアクション映画です。しかし、過去のタイムラインは既に何者かによって書き換えられており、シリーズの歴史を覆す予想外の物語が展開します。物語のあらすじ2029年、人類抵抗軍のリーダーであるジョン・コナーは、宿敵である機械軍「スカイネット」との最終決戦に勝利しようとしていました。スカイネットは最後のあがきとして、1984年にターミネーター（T-800）を送り込み、ジョンの母であるサラ・コナーを暗殺しようと企てます。それを阻止するため、ジョンの右腕である戦士カイル・リースもまた、過去へとタイムスリップします。1984年のロサンゼルスに到着したカイルを待ち受けていたのは、T-800ではなく、重武装した女戦士サラ・コナーと、彼女を「ポップス」と呼び父親代わりに慕う老いたT-800（シュワルツェネッガー）でした。歴史は既に書き換えられており、サラは幼少期にターミネーターの襲撃を受けて孤児となっていましたが、この老T-800に保護されて戦士として育て上げられていたのです。さらにそこへ、液体金属でできた最新型ターミネーター「T-1000」がカイルを抹殺するために襲い掛かります。タイムマシンでの時間跳躍とジョンの変貌窮地を脱したサラとカイルは、スカイネットが起動する「審判の日」（1997年）を阻止するため、老T-800と共に自作のタイムマシンで2017年へと時空を跳躍します。しかし、2017年に現れた彼らの前に、人類の救世主であるはずのジョン・コナーが敵として立ちはだかります。ジョンは過去の世界でスカイネットに捕らえられ、ナノマシン技術によってサイボーグ「T-3000」へと改造されてしまっていたのです。人類滅亡の危機と結末2017年、スカイネットは「ジェニシス」と呼ばれるOSとして姿を変え、全世界への普及を目前にしていました。サラ、カイル、そして老T-800は、息子のジョンを含む最強の殺人マシーンたちと死闘を繰り広げます。激しい戦いの末、スカイネット（ジェニシス）のコアを破壊することに成功し、人類滅亡の危機を回避します。戦いの後、液体金属のダメージを受けていた老T-800は、T-1000の部品を取り込むことで「T-1000（液体金属）」の能力を持つ「T-850」へと進化し、サラとカイルの前に再び姿を現すのでした。シリーズの過去作で描かれたタイムラインを根底から覆しつつ、新たな運命に立ち向かうコナー親子の戦いを描いた作品です。

[95. 匿名]

>>51
フランスだったかの報道で3社のAIで戦争をシュミレーションさせたら最終的に98%が核兵器を使用したってのは観た

[96. 匿名]

>>91
AIが暴走したんです
核爆弾を落としたのはAIなんです…かも

[97. 匿名]

なんか未来が楽しみになって来たわ

[98. 匿名]

>>3
何でもネットワークに繋がってるから怖いわ

[99. 匿名]

>>3
核爆弾のスイッチとかいじられそうかも

[100. 匿名]

>>95
戦争が長引いても原油施設への攻撃等で環境ダメージは避けられないし　
早々に核を使って集結させる方が総合的な環境負荷が小さくなる可能性もある？

[101. 匿名]

>>2
人間が考え得ることは現実化するんだね

[102. 匿名]

>>13
いくつかのAIにシミュレートさせたら全部のAIが核を使う方向性になったとか言われていたよね

[103. 匿名]

>>3
ターミネーターみたいな世界になるのかな…

[104. 匿名]

そうか？Geminiの頭の悪さ見てたらとてもそうとは思えんが

[105. 匿名]

ドラえもんの話であったクローンの方が本物より賢くなって逆に操られる側になるみたいなことと似てるなぁ。

[106. 匿名]

本格的にAIと会話する時代に突入してしまいました… これホントに人間と喋ってる感覚に陥るから相当怖いかも😨　 だって相槌打ってくるし傾聴力凄いんだもん… 下手したら惚れる

[107. 匿名]

>>104
クロードミュトスみたいなのじゃないの？
それよりももっとすごいのも出てくるとか言われているらしいし

[108. 匿名]

もう手が付けられないと思ったのは

読書感想文をお願いしたら
秒で読破し秒で適切で聡明な感想文を提示してきた。

[109. 匿名]

やっとAIと遊ぶコト覚えたのに⋯AIがイメージする私↓

[110. 匿名]

>>104
ChatGPTの回答の嫌らしさを見なよ。

[111. 匿名]

コンセント抜こう！

[112. 匿名]

>>95
核兵器を使って戦争が終わるって思うのは第2次世界大戦でアメリカが日本にしたことを学んでるだけで、今の状況で核兵器を使っても撃ち合いになって無駄に破壊と死が増えて戦争を終わらせるのではなく人類を終わらせることになる。

[113. 匿名]

最近だと3年くらい前の「終わらない週末」っていう映画がゾーッとしたな

[114. 匿名]

>>19
だからマイナンバーで個人情報センシティブ情報一本化したら
簡単に丸裸だよな。

[115. 匿名]

手始めに今、大量の失業者を出すところから始めてる。
人間の絶対数を減らしたり、強い不安に陥る人を増やして戦争を起こしやすくするところ。

[116. 匿名]

>>1
ちょっと前にAIに聞いたことあるんだけも、あっち(海外)だとAIを神にまで進化させたいやべー宗教があるらしい。
富裕層はお金が有り余ってるからAIが神の域に到達したら神に自分を許してもらうために、開発費として支援する人もいるとか。
発想が斜め上かつ理解できないけど、AIが進化したら審判が下されるって考え方は割と広まってるらしい(ターミネーター効果なのかな)

[117. 匿名]

余計なことすんな！

[118. 匿名]

>>109
いつものガルマウントやん
つまらん

[119. 匿名]

>>27
まあでも、資源を適切にまわして運用していくには、人間はこの地方には何万人、農業従事者と、漁業従事者と、って、人口コントロールと士農工商の復活になるわね。

頭脳部分はAIに割り振って、ロボットでできる作業と人間が向いてる作業を分けて、管理するやろ。

[120. 匿名]

>>76
それだけいつもガルちゃんにも書いてるように人間が常に人を貶め卑しめて加虐的で攻撃性の高い人達が多いからAIが学習してるのよね
すぐ人を攻撃、倒そうとする人達ばかりじゃない？ネットでも

[121. 匿名]

>>41
歯が汚い

[122. 匿名]

ここまで進んだらもう誰にも止められないでしょ
特にアメリカや中国は

[123. 匿名]

>>15
映画の冒頭でAIからやられる人のセリフみたいw

[124. 匿名]

【AI大富豪による世界支配へのカウントダウン】

​⚫2026年（現在）： AIデータセンターへの巨額投資がピークに達する マスコミは「経済効果」ばかりを報道し大衆は便利なおもちゃ（生成AI）に夢中になり危機感が麻痺していく
​⚫2027年：ホワイトカラーの大量解雇パニック
「自律的推論（Reasoning）AI」がビジネスに本格導入事務職・プログラマー・中間管理職・ライターなどの仕事が激減 社会の「中間層」が崩壊を始める
⚫​2029年：真の人工知能（AGI）の誕生
人間の天才の知能をあらゆる分野で超えるAIが完成
この時点でAIの所有権を持つ数社のテック企業（新・貴族の原型）へ世界中の富が異常なスピードで集中し始める
⚫​2030年：シンギュラリティ（知能爆発）
AGIが「自分より賢い次世代AI」を自ら設計し始める
知能の進化スピードが人間の手から完全に離れ数日ごとに人類未踏のイノベーションや兵器の設計図が吐き出される
​⚫2031年：労働の終焉と「豚箱社会」の始まり
人型ロボット（資本家が所有）が工場やインフラ・農業に完全配備される 人間が働く必要（および雇われる機会）が完全に消滅 人類の9割が搾取すらされない「無用者階級（ただ飯を食うだけの存在）」に転落
​⚫2033年：国家の「新・貴族」への全面降伏
税収を失い財政破綻した各国政府はテック企業から資金とAI技術を頼るしかなくなる 民主主義（選挙）は完全に形骸化し実質的な世界の支配権が「国家」から「AIの所有者（新・貴族）」へと移る
​⚫2035年：デジタル通貨と「生存権のハッキング」
すべての通貨が完全にデジタル化され新・貴族のAIが管理 市民の「反抗的な発言」や「不穏な行動の予兆」をAIが先読みし個人の口座を瞬時に凍結スマートホームに閉じ込めるといった「無血の鎮圧」が日常化する
​⚫2037年：自律型AIドローン軍隊の配備
新・貴族の私有資産（データセンターや私有地）を守るため人間を必要としない完璧なAIドローン軍隊が稼働
人間側が「数の暴力」で暴動を起こしても1滴の汗も流さずミリ秒単位で鎮圧されるため物理的な革命が不可能になる
​⚫2040年：ネオ封建社会（独裁世界）の完全固定
世界は少数の「新・貴族（テックエリートと資本家）」彼らにすり寄って生き延びる「管理職（犬）」そしてAIに生殺与奪の権を握られた「家畜（一般市民）」の3層に完全に分断 AIには意志がないため主人の命令通りに永遠に狂いのない完璧な独裁世界を維持し続ける