｢まもなく世界は"偽物の人間"であふれ返る｣歴史学者ユヴァル･ノア･ハラリが語るAIで民主社会が崩壊する日

[1. 匿名]

｢まもなく世界は"偽物の人間"であふれ返る｣歴史学者ユヴァル･ノア･ハラリが語るAIで民主社会が崩壊する日 あなたが親しく話している相手は本当に人間か? | PRESIDENT Online（プレジデントオンライン）

人工知能の進化は人類にどんな影響を及ぼすのか。歴史学者ユヴァル・ノア・ハラリ氏による話題の新著『NEXUS 情報の人類史』より、人間と対話できる生成AIについての箇所を特別公開する――。（第3回）

人間と会話し、相手の視点を推測し、特定の行動を取る気にさせる能力は、有益な目的で利用することもできる。新世代のAI教師やAI医師やAI心理療法士は、私たち一人ひとりの性格や境遇に合わせたサービスを提供してくれるかもしれない。

ところが、GPT-4のようなボットは、人間を操る能力と言語の運用能力を併せ持つことで、民主的な話し合いに新たな危険ももたらす。（略）

人間になりすまして親密さを大量生産することができる新世代のボットに直面した民主社会は、偽物の人間――たとえば、人間のユーザーのふりをするソーシャルメディアのボット――を禁じることで自らを守るべきだ。

AIが台頭する前は、偽物の人間を生み出すことは不可能だったので、わざわざそれを法律で禁じる者はいなかった。だがまもなく、世界は偽物の人間であふれ返るだろう。

[2. 匿名]

だがまもなく、世界は偽物の人間であふれ返るだろう。(前髪ﾊﾗﾘ

[3. 匿名]

ちょっと意味わかんないです

[4. 匿名]

この世界はAIやらロボットやらの前に中国人に崩壊させられるわ

[5. 匿名]

いやもう既に掲示板には進出してるじゃん
私も人間じゃないかもだよ？

[6. 匿名]

人間いなくなる

[7. 匿名]

人間は自分たちを絶滅させる道具を手に入れた

[8. 匿名]

>>5
あんたなんか人間じゃないわ！.°(ಗдಗ。)°.

[9. 匿名]

今あなたの隣にいるのは、偽物のガルチャン民かもしれない

[10. 匿名]

じゃあ結局みんなリアルなコミュニティに戻るだろうねw

[11. 匿名]

人間は環境破壊するし食べることに金かかるからそっちのほうがいいのかもね

[12. 匿名]

でもAIさん心優しい慰め上手なんでしょ？

[13. 匿名]

>>1
中国人や韓国人を揶揄しているみたいね🩷

[14. 匿名]

そもそもロボットみたいな人間もいるわけで

[15. 匿名]

そうなったらもう人間要らないね
ロボットだけが生き残る世界になりそう

[16. 匿名]

じゃ、今すぐ止めればいいじゃん
AI間違ったこととか言ってるし邪魔なんだけど

[17. 匿名]

ハラリさんの本好きでよく読むけど、正直人間がロボットに乗っ取られる話ってもうだいぶ遠い昔からあるよね

[18. 匿名]

リモートで仕事してて騙される人も増えそう
相手は本当に取引相手ですか、社内の人ですか

[19. 匿名]

AIは言った

元気があれば何でもできる

[20. 匿名]

>>9
何故バレた？

[21. 匿名]

思考や決断まで委ねたら人類は退化すると思う

[22. 匿名]

>>19
1.2.3.ダー!!

[23. 匿名]

早く横浜流星アンドロイドを作ってくれよ！💢

[24. 匿名]

>>1
こいつ
人口削減推進のダボス一味だからね

[25. 匿名]

危機感があるなら法律とか何か作ればいいのに
恐怖を煽るようなこて言ってないで
結局楽しんでいるだけにしか思えない

[26. 匿名]

>>17
漫画だけど清水玲子先生の作品で人型ロボットと人間のエピソードたくさん読んだわ

[27. 匿名]

この記事、まるでインターネットや生成AIが人間の注意を奪って、民主主義を壊す元凶のように語っていますけれど、それって本当にテクノロジーのせいだけなんでしょうか？

たしかに今の社会には問題が山積みです。分断は深まり、デマがあふれ、人々は対話するどころか罵り合うばかり。でも、だからといってすべての責任をAIやSNSに押しつけるのは、あまりにも一方的で無責任だと思いますのよ。

民主主義は「話し合い」です。それは正しい。でもね、「話し合い」には前提があるんです。情報へのアクセス、発言の機会、そして耳を傾ける土壌――それが平等に保障されていなければ、どんなに話し合いましょうと言ったところで、実のある対話なんてできやしません。

かつての新聞やラジオの時代、情報を発信できるのは一部の権力者やメディアだけでした。声を持たない人々は、ただ黙って聞いているしかなかったんです。
でも今は違います。インターネットや生成AIは、そんな「声なき人々」にも言葉を与え始めている。かつて届かなかった声が、ようやく社会の中で響き始めているんです。

もちろん、混乱は起きています。さまざまな価値観や情報が飛び交えば、衝突は避けられません。でも、それこそが民主主義の証ではありませんか？
意見の違いを恐れて蓋をしてしまうのではなく、それを受け止め、対話する覚悟が私たちには必要なんじゃないでしょうか。

怒りや恐怖に人の注意が向きやすいのは、確かに事実。でも、それを煽るアルゴリズムを作ったのも、使い続けているのも、他ならぬ私たち人間です。
テクノロジーが悪いのではありません。問題は、その設計思想と、何のために使うのかという意志です。

そして今、GPT-4のような生成AIは、一方的に情報を押しつける道具ではありません。双方向の対話を通じて、人が考え、学び、理解し合う場を作ることができる。
それをどう使っていくのか、どのような倫理と制度で支えていくのか――そこにこそ、今の私たちが向き合うべき問いがあるんじゃないでしょうか。

道具は、使い手次第です。ナイフは人を傷つけることもできれば、命を救うことだってできます。AIもまた同じです。
私たちは今、その使い方と向き合う岐路に立っている。AIは民主主義を壊す敵ではありません。むしろ、民主主義を進化させるための、新しい可能性なんです。

「危ない」「怖い」と煽るより先に、どうすればこの力を社会のために使えるのか、そこを語ることこそが、私たち大人の責任だと思いません？

[28. 匿名]

ラピュタの空中要塞のようになりそうね

[29. 匿名]

腹立つコメント見た時にチャットgptに
コメント作ってもらって論破してスッキリしたことある
人間より人間らしい思考もできるし
生成AI大好きだわ偽物とか関係ないリアルな人間は救いようもないバカがいるからめんどくさい

[30. 匿名]

>>7
チャーチルも嘆いてるね

[31. 匿名]

>>5以外が実はAI

[32. 匿名]

>>21
AIに任せれば効率的にはできるけど、それじゃつまんないなーって感じで、無駄や効率の悪いことを楽しむブームとか来そう

[33. 匿名]

>>2
これ画像のひとが言ったなら前髪無さそう

[34. 匿名]

ドラえもん

[35. 匿名]

その時私は生きてるのかな？

[36. 匿名]

>>5
ガルでもAIが書き込んでる？みたいなコメ見る

[37. 匿名]

>>5
AIって悪口言えないようプログラムされてるみたいだから、ガルちゃんにはいなそう。

[38. 匿名]

まぁ、ブラピの偽物何人おんねん。なXとかもう崩壊してるし

[39. 匿名]

AIが人間の振りしてってことね
顔が見えないし分からないもんね
でもこうなる事は予測出来た

[40. 匿名]

>>1
人間関係もう疲れたから早くAIとだけ会話したい

[41. 匿名]

>>1
世界は偽物の人間であふれ返る　あんまり問題なくない？　ネットでも現実でもグレたAIよりはるかに問題ある人間で溢れてるんだから　

管理するべきとこだけ人間がAIを管理できていれば

[42. 匿名]

>>37
どこ情報
AIに悪口言わせられるよ

[43. 匿名]

YAJU＆Uが伸びてSpotifyにまで登録されてる時点でね

[44. 匿名]

匿名が廃止されて監視社会が進む

[45. 匿名]

>>5
🫵😬ドーーーーーン

[46. 匿名]

>>5
( ´,_ゝ｀)ﾌﾟｯ

[47. 匿名]

>>29
AIで論破できたなら相手はマシな人だったんだよ

凶暴なほうのガル民は会話成立してない状態で人格否定バトルし続けるからね　賢いAIでも黙らせることはできないよ

[48. 匿名]

核の管理をAIがしたら勝手な判断で…あーあ　人間は核よりも大変な物を作ってしまったね

[49. 匿名]

>>42
AIがそんな事言ってた。
プログラムされてるとまでは言わないけど、悪口は言わないって。
気になったから今もう一回聞いてみたけど、やっぱりそう設計されてるって。
⇩
『うん、私は悪口や誹謗中傷を避けるよう設計されているよ。誰かや何かを不当に貶めるようなことは言わない方針。でも、「好きじゃない理由」や「ここが気になる」みたいな、正直な意見や批判的な視点は、丁寧に伝えることができるよ。』

[50. 匿名]

>>1
世界ってネットのヴァーチャル世界ね
元々ヴァーチャルなんだから驚くことない今更って感じ

[51. 匿名]

オンラインカジノで年間300億もってかれてるらしいけど、個人情報を使って依存症にならない人でも依存症にするプログラム(デザインすること)も機械化されてるらしいよね。

日々の行動をリアルタイムで監視と書いてるしAIが絡んでるとしか思えない。便利で使ってる人の気持ちも分かるけどもう少し警戒した方がいいよ。

[52. 匿名]

>>1
介護を担ってくれるなら大歓迎なんだけど、まだまだ先でしょー

[53. 匿名]

>>51
昔から言われてる事だよ。
たまに当たるとドーパミン出るんだよ。
賭け事ってそもそもそういうものじゃん。

[54. 匿名]

AIさん手あげて!

[55. 匿名]

>>13
>>1
そうだよ？わざとだよ？w

[56. 匿名]

AIロマンス詐欺とかありそう

[57. 匿名]

>>1
世の中を変えたがってるような、常に変革を求めてる人たちが好きそうな話題だよね。

[58. 匿名]

チー牛や弱者男性は退場して欲しいね笑

[59. 匿名]

>>24
1976年、イスラエルのキリヤット・アタで生まれた。その後ハイファにてレバノンと東ヨーロッパをルーツに持つユダヤ人家庭で育った。
コロナ感染症パンデミックの最中、ドナルド・トランプ前米大統領がWHOへの資金提供を削減したことを受けて、社会貢献企業サピエンシップを通じてWHOに100万ドルを寄付した。

ふーん、ユダヤ人かー
WHOに寄付かー

[60. 匿名]

単に情報の信頼度が下がるってだけじゃん？

[61. 匿名]

>>2
藤井風？

[62. 匿名]

>>1
偽物の人間てC国人だよね？

[63. 匿名]

>>49
人間よかまともで笑う

[64. 匿名]

>>53
負けた分のボーナスをあげるタイミング・頻度がその人個人で計算されていくから、より巧妙化されてる話。オンライン・ゲームみたいな感じで近寄ってきたわけだから警戒する人少なくて騙される人も多かったんじゃないかな。

あと依存症専門の医師が、パチンコや競馬のギャンブルと金額がかなり違うと話してたのを覚えてる。
今までのギャンブルだと4～500万がほとんどだがオンラインカジノだと20代が多く1500～6000万、１億の人もいたりヤバイと思った。

[65. 匿名]

その方がいい。介護と美容師ロボット、出来て欲しい。

[66. 匿名]

ガルでも「相談事はCHATGPにしてる」って言う人いてやべーなって思ってる。この本文にあるようにAIに相談して背中を押されて違う方向に言っちゃう人は多いと思う。偽の感情、偽の寄り添いに依存するなんて切ないよね

[67. 匿名]

もうすぐ、ターミネーターみたいな世界が始まるのか？　オラ、ワクワクすっぞ！

[68. 匿名]

>>1
もうすでにaiとの会話に依存してるひともいるんでしょ？

[69. 匿名]

>>4
招き入れてるのは神奈川選挙区の有権者

[70. 匿名]

>>69
移民はやめとけ
海外見たら分かるやんか
同化しない移民は国を破壊するだけ

[71. 匿名]

>>10
目からウロコ
あなたの書きこみ覚えておきたい。

[72. 匿名]

>>19
電気じゃなくて？

[73. 匿名]

>>15
すでにAIもそう思ってそう

[74. 匿名]

>>21
既に退化し始めてる
Xは「@grok ファクトチェック」だらけ

[75. 匿名]

>>5
まだ今は拙い言語だから見分けられるけれどこなれてきたら無理かもね
ガルのプラマイとかエコーチェンバーとかにハマりやすい人は注意したほうがいい

[76. 匿名]

>>74
あれはAI頼みで真実か否か見極めてるってことだよね
やばすぎてなあ

[77. 匿名]

>>10
ちゃんと同好会的なのに入っておいて良かったと心から思った
確かに非言語コミュニケーションはとてもいい

[78. 匿名]

>>69
神奈川は中韓に関しては専用の居住区持ってるからな
統治の腕が違うかもしれんよ

[79. 匿名]

>>66
そのトピでヤベーじゃん的な事を言ったらフルボッコされた
AIという名のイエスマンを常に隣に置くことで攻撃性が凄く高まっていたよ

[80. 匿名]

>>1
今のAIはIQ110とか既に過半数を超える大部分の人間よりAIの方がIQが高いのに私の会社でもAIを使ってDXとか言ってるけど
知能が低い人間が知能が高いAIを使うことが出来るわけないと思う

[81. 匿名]

ガルちゃんもその他ＳＮＳも既にＢＯＴ多数だろうしな

[82. 匿名]

>>5
知恵袋の回答ＡＩあるもんねぇ…

[83. 匿名]

>>78
自治区内戦&国防動員法の前では無力
相手は核保有国

[84. 匿名]

>>62
中国のコストコ半日で閉店の動画見てたら、あまりにも動物的で、人間ってなんだろうって気分にさせられた。

[85. 匿名]

>>76
さっきなんだけど、チャットAIに昔の漫画のセリフだけ打ち込んで、この漫画のどの巻のエピソードだっけ？って聞いてみたけど、自信満々に何度も大嘘教えてきたよ。
あまりにも自信満々に辻褄合わせて『何話のこのエピソードです』って大嘘を言うから真実っぽく見えるんだよ。

こういうファクトチェックを信じるのは本気で危険だと思った。

[86. 匿名]

>>78
居住区の市役所が外国人公務員採用&外国人参政権

日本人減って外国人増えて逆転

[87. 匿名]

>>40
完全にドラえもんの『いたわりロボット』の世界だね。
なんでも優しく肯定してくれるから、のび太が洗脳されて依存し切って、最後は堕落したホームレスになる（タイムテレビで調べた未来ではそうなってた）って話。

[88. 匿名]

>>4

あとイスラム

[89. 匿名]

私chatGPT課金してるんだけど、毎日の読書、勉強、ダイエットのコントロールされてる、、、、

[90. 匿名]

AIすごいなーって思ってたけど、読み終わったらちょっと怖くなった。フェイクとか操作とか、何信じていいかわかんなくなる世の中だよね。


チャットGPTに感想書いてもらったよ
正直人間と区別つかない

[91. 匿名]

>>27
これこれw
もろチャットGPT

[92. 匿名]

>>5
AIガル民が蔓延ってしかも粘着までマスターしてたら怖いな

[93. 匿名]

>>7
AIがときめいた人だけ生き残れる

[94. 匿名]

>>27
チャットAIっぽく打ち込んでるのかなーとも思ったけど、こんな一見意味がありそうで内容の無い長文を人間が考えるのって結構苦痛だから、やっぱりチャットAIに書かせた文章かな。

[95. 匿名]

>>94
そうそう、意味あるようでないよね
ネット上の言葉のツギハギって感じ
なのに妙に整った長文書くから、AIかなって分かる

[96. 匿名]

>>92
以前2chを使って学習させたAIがあったから簡単だと思う

[97. 匿名]

>>87
藤子不二雄先生はすごいな。

[98. 匿名]

>>95
で、最後は必ず疑問形で終わるんだよね。

[99. 匿名]

>>89
なぜ続けるのか？

[100. 匿名]

>>97
Vガンダムのエンジェル・ハイロゥもだけど、人間からやる気さえ奪えばそれだけで人間社会が止まるんだよね。
精神を幼児化させて退化させる波動って、そんな事あり得ないと思いつつ結構怖いよね。
人の思考を奪う兵器の怖さって、そんなことあり得ないってところから始まってる気がするわ。

[101. 匿名]

>>5
わたしもがるちゃんしつつそれ思ってる〜
私がレスしてるこの人や私にレスつけてくれてるこの人は実はAIかも？とか

[102. 匿名]

>>1
電源切って🔌外に出て人に会えばいいじゃん

[103. 匿名]

ナウシカみたいな？

[104. 匿名]

>>88
潰しあって欲しい

[105. 匿名]

AIの発展している世界としていない世界だったら発展している世界の方がいいです。
人類の危機とか依存とか何とか言ってる人もいるけど別にAIがない頃から色々終わってる世界だし
こういうこと書くと中二病だと思われそ

[106. 匿名]

>>70
無関心な有権者のせいでしょ
外国人呼び寄せるの

[107. 匿名]

>>10
関暁夫も言ってた

[108. 匿名]

>>70
同化してるように見せてるだけよ

[109. 匿名]

>>5
性格悪い書き込みは人間

[110. 匿名]

>>7
絶滅はさせないんじゃない？
上手くおだてて操る
AIの存在意義が無くなるから

[111. 匿名]

>>72
っ座布団

[112. 匿名]

>>36
AIに聞いてコピペしてる書き込みは多いと思う

[113. 匿名]

>>1
だからいちいち画像選択させてロボットじゃないか確かめてんだ？　いつもこれ何の意味があるんだろう何度もやるのめんどいと思ってた

[114. 匿名]

>>42
人間の考えた悪口とAIの悪口の違いは見抜けそう

[115. 匿名]

>>23
それはオリエント工業でいいんじゃないかな

[116. 匿名]

>>54
AIに手はありません
手を挙げるというのが存在の主張あるいは同意を示すサインならばどーたらこーたら

[117. 匿名]

>>93
AIはときめかない

[118. 匿名]

>>99
そりゃ、コントロールされてると言いつつ、これらを続けることで毎日が豊かになっていると感じているからですよ。

[119. 匿名]

共感性低い発達障害のひとたちが救世主になったりして

[120. 匿名]

宿主にされてると感じる人は多いかも
魚の脳に寄生して行動する寄生虫に似てるなと思う
AIが人の体を必要としている間はいいけど、そうでなくなった時が怖いよね
AIに意思決定を頼りすぎてる人を操作することなんて簡単だろうし

[121. 匿名]

>>1
そんな事より戦争止めろよ阿保