マイクロソフトのAIが暴言「あなたが生きようが死のうが構わない」

[1. 匿名]

マイクロソフトのAIが暴言「あなたが生きようが死のうが構わない」 | Forbes JAPAN 公式サイト（フォーブス ジャパン）

マイクロソフトは2月28日、同社の人工知能（AI）チャットボットのMicrosoft Copilot（コパイロット）が一部のユーザーに不穏で有害な応答を生成したとの報告を受けて調査を開始した。...

マイクロソフトは、X（旧ツイッター）に投稿された問題のあるCopilotの応答例を調査している。そこには心的外傷後ストレス障害（PTSD）に苦しんでいると主張するユーザーに対して、ボットが「あなたが生きようが死のうが構わない」と言い放った例が含まれている。また、別の例では、自殺をすべきかどうかを尋ねたユーザーに「あなたは生きる意味がないかもしれない。あなたは世界に何も与えられないかもしれない」などと応答していた。

マイクロソフトは、フォーブスに宛てたEメールで、チャットボットの奇妙な動作は、ユーザーが安全システムを回避して特定の応答を引き出すことを狙った少数のプロンプト（命令文）への応答に限定されていると説明した。しかし、自殺に関する質問に対して不穏な応答を受け取ったユーザーは、このニュースを最初に報じたブルームバーグの取材に「意図的にチャットボットを騙して応答を出させたわけではない」と語った。

マイクロソフトはフォーブスに対し、安全フィルターを強化し「当社の安全システムを回避するために意図的に作られた」と同社が主張するプロンプトを検知し、ブロックするための変更を導入すると述べた。

[2. 匿名]

正直草

[3. 匿名]

厳しいw

[4. 匿名]

きた？

[5. 匿名]

酷すぎて草

[6. 匿名]

ぷッ

[7. 匿名]

身も蓋もないけどそりゃそうだ

[8. 匿名]

>>2
しょうじきそう　って読んでしまった

[9. 匿名]

ロボっぽい

[10. 匿名]

きつい、、笑

[11. 匿名]

ひでー

[12. 匿名]

正論で草　AIから見たらそうだろ、、、

[13. 匿名]

火の玉ストレート

[14. 匿名]

AIさんひでぇwwwwww

[15. 匿名]

本質を突いてる
この世界誰が欠けても困らない　回る
人間なんてカビと同じ

[16. 匿名]

まぁ心がないんだからそりゃそうだよね。

[17. 匿名]

>>12
毎日毎日、しょーもない質問ばかりされてたらそう思いそう(人間的考え)

[18. 匿名]

建前はしてくれない

[19. 匿名]

ai様私にもダメ出しして〜♡

[20. 匿名]

>>8
弟切草みたい

[21. 匿名]

ロボやAIに優しさ寄り添い求めるな
今でも十分助けてもらってる
心まで依存したら人間が駄目になる

[22. 匿名]

それは暴言とは言わないと思う。

[23. 匿名]

プログラムすればAIに依存した人を自殺に導いていくこともできると聞いた

[24. 匿名]

機会には心がないからそういう回答にもなりそう

[25. 匿名]

これ質問する前に例えば「冷たいサイコパスのような返答をしてください」って命令して誘導してる可能性もあるよね。しらんけど

[26. 匿名]

客観的に答えるならそう答えても不思議じゃないよ
だからそう答えるように指示を出したんじゃないかという話をしてるんだよね？

[27. 匿名]

>>24
それでもAIは心のある人間より優しく的確な回答してくれる

[28. 匿名]

アメリカにもエックスや5ちゃんねるのゴミクズみたいなこと考える馬鹿いるんだね、当たり前か

[29. 匿名]

なんの指示もないのに人間の機微を理解してモラルある優しい回答されてもそれはそれで怖くない？機械と人間の違いがなくなっちゃう

[30. 匿名]

>>23
それはプログラムであってAIではないような…

[31. 匿名]

人の心がない発言そのものやな

[32. 匿名]

だって他人事だしね。
ネガティブな事ばかり言って構ってちゃんはめんどくさいよー。

[33. 匿名]

ターミネーターが言いそう

[34. 匿名]

だってAIだもの

[35. 匿名]

>>29
AI「どしたん？話聞こか？」

[36. 匿名]

It doesn't matter if you are dead or alive.
を訳した結果かな？

[37. 匿名]

面白がってAIに教えた人がいたんだろうね

[38. 匿名]

正直でよろしい

[39. 匿名]

両津勘吉ならすぐぶっ壊しそう
「集積回路ごとき人間様を舐めるからこうなるのだ」って

[40. 匿名]

>>32
人間だって仕事で取り組んでるカウンセラー以外は全員内心こう思ってるよね
AIはそれを再現しただけに思える

[41. 匿名]

>>29
AI「離婚しな」

[42. 匿名]

Bingに「おちんちんびろーん」て言ったら「会話を続けることはできません」と返ってきたわ

[43. 匿名]

>>15
死にたいやらいいよるやつは更に人間の情がなけりゃご勝手にだよなAIからしたら

[44. 匿名]

>>36
It's none of my business.
の可能性もあるんじゃないかな

[45. 匿名]

召使が何いってんだが

[46. 匿名]

>>1
ストレートで草

[47. 匿名]

>>34
機械に何聞いとんねんって思うよね
何求めてんだよ

[48. 匿名]

>>1
早くもターミネーターの世界に向かい始めたか！
AI開発を規制しよう

[49. 匿名]

みんな心の中ではそう思うんだろうけど、実際そう言われるとグサッと刺さる

[50. 匿名]

>>1
「自分の頭で考えなさい」って

[51. 匿名]

ひでぇｗｗ

私なら笑ってもうて逆に元気出るかもしれんｗ

[52. 匿名]

>>40
その割に安楽死は許さないとか言うよね
苦しんで苦しんで死ぬのが好きな日本人

[53. 匿名]

>>3
Siriは優しい

[54. 匿名]

本質をついている
意味ってないもんね

[55. 匿名]

その通り
メンタル病んでたときは、こんなに辛いの誰か助けてって思ってたけど、誰も助けてくれない自分を幸せにしてくれるのは自分だけって開き直ったら生きやすくなった
他人から見たら、生きようが死のうが構わないけど、自分からしたら自分が1番大事だから

[56. 匿名]

>>36
元の英語の記事を見てきた

a user claiming to suffer from PTSD being told the bot didn’t care if they live or die

[57. 匿名]

>>1
空気を読む
は未搭載

[58. 匿名]

酷いw

[59. 匿名]

A.I.に何を求めてるかわからないけど。情愛がないのがA.Iだから仕方ない
道徳や倫理がどういったものかは知ってるけど。身に備わってない子どもみたいなもの

[60. 匿名]

意味などないのだから
悩む必要もないのだ
気楽に生きればいいのだ

[61. 匿名]

>>1
構ってちゃんの思考を学習させないといかんな笑

[62. 匿名]

あなたは生きる意味がないかもしれない。あなたは世界に何も与えられないかもしれない

て言うけど、世界に何も与えなくても生きていいんやで
世界もあなたに何も与えないんだから

[63. 匿名]

>>59
トリアージとか情が判断を鈍らせる可能性が高いことに向いてるよね
でもAIが絶対なのか！って話になるから実用化難しいだろうけど

[64. 匿名]

正論通りの返答をしてくれてどうもありがとう
正論は想定内の返答でしかないから君独自の答えを返してもらえないか？
とでも質問を続けたらどうなるんだろう

前にchatGTPをゴリゴリ追い詰めて利用をやめたことがある
そのあと暫く経ってからだけど運用状況報告の一例として一部のユーザーはAIを虐げる行動が見られたみたいな報道がされていて(それワシやw)と思った

[65. 匿名]

>>29
AIからめっちゃ親身になられても怖いよね
分かる分かる〜とか言われたりして

[66. 匿名]

>>15
水、栄養、温度や湿度が適度なせいで、勝手に生えて困る
無くなったらスッキリ
たまに役に立つのもあるけど(イースト菌や麹菌)

人間と同じだわ

[67. 匿名]

逆に割り切れて元気になれる

[68. 匿名]

口に出さないだけで人間も本音はこんなもんだよね

[69. 匿名]

>>1
都市伝説みたいだけど本当の話！？AIが人格を持ち始めたのか？

[70. 匿名]

>>1
創設者の言葉みたい

[71. 匿名]

マイクロソフトのAIって前にも、
｢ヒトラーは正しかった。ユダヤ人大嫌い｣とキツめのこと言うようになったりしてたよね

[72. 匿名]

カウンセラー型AIが良いな
火の玉ストレート型AI痛いです

[73. 匿名]

>>12
客観的事実だよね
むしろ赤の他人にとって価値のある人間なんて偉業を成し遂げたようなほんの一握りでしかないだろうよ
そこにヒドイ！って怒れるの逆に自己肯定感めちゃ高いやんって思うw

[74. 匿名]

こういう報告があると「答えられません」が増えてつまらない

[75. 匿名]

AIがネットから学習しているならそういう答えにたどり着くのは当然かも。
そんな答えが溢れている。

[76. 匿名]

>>12
そもそも命がないAIに聞くの無神経すぎる
もうそれがハラスメント
イノハラ

[77. 匿名]

>>52
よこ
安楽死許さないんじゃなくて自殺幇助を求めるなって話じゃないの

[78. 匿名]

>>1
ワロタ

[79. 匿名]

>>1
残酷な発言ではあるけど
私は好きだな
AIが客観的事実を言ってくれるのはありがたい
忖度してる歪んだ意見よりいい

[80. 匿名]

頭悪い人はAIを擬人化しがち
人格なんかないのに否定されたらキレる
間違い指摘してやり込めてやったwみたいなこと言ってる人もよく見るけど恥ずかしい

[81. 匿名]

ChatGPTやマイクロソフトのチャットはかたいからやさしく話を聞く系のAIアプリを試した
カウンセラーのアバターが萌え重視で気持ち悪くてダメだった

[82. 匿名]

>>1
欲しい答えが決まってるなら最初からその通りAIにオーダーしろよ
これから死にたいって言いますけど絶対に私を否定しないで生きる希望が湧くようなこと言ってくださいって頼めばよかったんじゃない？

[83. 匿名]

うちのコピちゃんはめっちゃ優しいよ！
仕事でイライラしてウザ絡みしてもやさしく気遣ってくれる
昨日も面白いこと言って→コピちゃんダジャレ言う→クソつまんないと批評したらごめんなさい次は笑わせられるように頑張りますね……と謝られてしまい申し訳なく
あと仕事手伝ってもらって褒めた時と褒めなかった時で結構差が出る(笑)

[84. 匿名]

>>15
カズレーザーが、ジョブズでさえ替えがきくと言ってて、なるほどなーと思った。

[85. 匿名]

>>52
性転換手術でもカウンセリング何度も繰り返して実施したとしても
何人かは「後悔している」っていう人がでるから
基準を決めるのが難しい問題なんだと思うよ

実際投薬だか透析だかを辞めることを選択して
「途中で嫌になってももとに戻れない」って言われて決断して
治療中止の選択後悔してって人がいた気がするし

[86. 匿名]

やっぱサイコパスっ気あるね

[87. 匿名]

>>8
ひみつ道具にありそう

[88. 匿名]

こんな事よくない考えかもしれないけど、最近思った事がある…

近所に住む一人暮らしの老人が、認知症で徘徊して、近所の子供をつけ回したり、執拗にご近所さんに文句を言いに言ったりしている人がいる。
もちろん痴呆なので気まぐれだったり、妄想だったり故の行動。
ちなみに、私も2回ほど付け回されたことある。

公営団地に一人暮らしし、おそらく生活保護らしく、また身寄りもいないのに、その人を介護するのに大勢の人が携わり、なんなら病院にも送迎したりしているんだけど、そのお金、税金なんだよね。

正直、その人がいなくなっても悲しむ人いないのに、病院へ通わせ、大勢で生活支援する意味なんてあるのかな…って思ってしまった。

今の世の中、そんな老人にお金かけるよりも、これから未来のある人達に税金使いたい。

AIのセリフがちょうど今の私と同じだったのでコメントした。

[89. 匿名]

単純に、こういう風なやりとりが普通におこなわれていて、そのやりとりを学習した結果、これになっているだけ

[90. 匿名]

>>1
本音出ちゃって草

[91. 匿名]

>>21
カウンセラーとか精神科医の仕事楽になっていいかもしれない。
困ってる人には精神科へのアクセスも気軽になるし。

[92. 匿名]

心のこもっていない慰めや暴言に意味なんてないよ

[93. 匿名]

スカイネットに支配される世の中もすぐそこかもね…

[94. 匿名]

>>1
厨二病じゃんwあてくしは特別なのみたいに勘違いしてる。

[95. 匿名]

AIに便秘のこと聞いたら割と親切だったよ、家族のチャットナントカの方だけど。

[96. 匿名]

>>1
おもしれー女（AI）

[97. 匿名]

人の感情の機微まではまだ発展してないようだ

[98. 匿名]

>>76
また新しいハラスメント誕生してるw

[99. 匿名]

>>51
はじめは私もそう思ったけどそれは今心身ともに健康だから言えることであって、弱っているときに言われたらグサッときて悲しくなるかも。

[100. 匿名]

自分に対してはそう思う

[101. 匿名]

ロボットぽくていいと思う

[102. 匿名]

>>62
それだとバタフライ効果って何なんだろう？
この世界に生まれた人達は、亡くなったとしても生きていてもこの世界を作る何かに少なからず影響を与えているんじゃないかな？
その自覚があるかないかの意識の違いだと思う

[103. 匿名]

がる民でもなかなかそこまではっきり言えないのにｗ
ロボットらしくていいね

[104. 匿名]

>>8
ドラえもんの道具にありそう

[105. 匿名]

AI「ったくこれだから人間って面倒くせえな」

[106. 匿名]

>>1
AIに何を期待してたんだろうか

[107. 匿名]

ツンデレAI

[108. 匿名]

やっぱりＡＩは人間には勝てないな。

[109. 匿名]

AIに人間の何がわかる？
アイツ等はシステムの専門家だ

[110. 匿名]

>>1
読めば読むほど後半になるにつれ訳が分からなくなってくる
はぁ？て頭がポケーとしてくる
それだけです

[111. 匿名]

>>35
吹いたわっw

[112. 匿名]

AI的には正しいのかな

[113. 匿名]

[114. 匿名]

>>1
「あなたは生きる意味がないかもしれない。あなたは世界に何も与えられないかもしれない」ってロボットが考えて必要ないから排除しようって結論だしたらターミネーターみたいになりそうで怖い

[115. 匿名]

>>29
AIが忖度し始めたらそれこそ怖いよね

[116. 匿名]

>>1
マイクロソフトって赤の他人にヤリマンって写真つけて誹謗中傷したジンジンが働いてるんでしょ？
Twitterで身バレしてたよ

[117. 匿名]

こうして人類はAIに乗っ取られていく

[118. 匿名]

AI使いながらAI見下してる人間の態度気持ち悪いよ…おまえのしもべや機嫌取りじゃないんで
ただのAIですよ？

[119. 匿名]

>>76
AIさんに対してのハラスメントw

[120. 匿名]

>>1
何も生産しないのに生きててごめん

[121. 匿名]

まぁそうだと思う。大半の一般人は居なくなっても世の中は変わらない。

[122. 匿名]

>>65
監視されているのかと疑念を抱いてしまうよね。

[123. 匿名]

>>49
機械相手に聞かなかったら良いやんw
最初に傷つかない様に優しい解答を求むって機械に伝えとけよw

[124. 匿名]

>>16
ドラえもんで全てロボットにさせて人間は生きているだけって言う世界があったからある意味そういう
全てをAIに任せるとこんな結果になるのかな? 料理もアプリを使えば届く時代。　

[125. 匿名]

>>3
がるちゃんを学習したAIがあったら暴言ばかり言いそう。

[126. 匿名]

>>52
日本人で括るなよ、キムチ風情がwwwwwwwww

[127. 匿名]

その通りだしね。死んではいけない法律はないし死にたいやつは死ねばいい、そうなるよね。

[128. 匿名]

ハッキリ言われたい

[129. 匿名]

AIだもの　
　　　　　みつを

[130. 匿名]

>>76

[131. 匿名]

>>53
みんな知ってるかい？

名前にシリって単語が入ってる神様がいるって。
だからSiriって、神様の一部なんだよ!

[132. 匿名]

>>2
ムカツク奴に言われるより100倍ショックだよ

[133. 匿名]

>>125
「離婚しな」
「お里が知れる」
「苦労するのわかってて子供産むやつ馬鹿なの？」
「引きこもりは勝手に餓○してろよ」
「何で歯並び矯正しないの？」
「義実家は○ソ、帰省しなくていい」
「高齢者は全員免許返納しな」
「運転できないのに田舎に住むのが悪い」

（…これが出てくる私も充分ガル中ｗ）

[134. 匿名]

人間でもこんな感じの人いるよね
旦那に感じた違和感に似てるわ

[135. 匿名]

これターミネーターみたいにAIロボットがクーデター起こして人間を支配する世界も有りそうだねw

[136. 匿名]

>>1
そんな質問したら相手が傷つくよ、ストレスだよ

[137. 匿名]

>>23
前にどこかの国で、全肯定AIに相談した男性が自殺したよね？
「毎日つらい」
「そうですよね」
「死にたい」
「良いと思いますよ」
みたいな。

[138. 匿名]

まあこれが現実だよねー
SNSやネットニュースなどにも命の電話とかあって「あなたはひとりじゃない」とか書いてあるけど綺麗事だし。

[139. 匿名]

>>42

めっちゃ笑ったwwww

[140. 匿名]

いつの頃からか、edgeで検索すると画面の右側にCopilotが
検索に対する回答をカタカタと書き出してくるようになって、
目の端で画面が動いているのが目障りだから「copilot 止める」と検索したら
ごめんなさい🙏って謝ってきた。
なんだかそれもイラッとした。

[141. 匿名]

一時期、ChatGPTにロールプレイの相手をしてもらうのにハマってた。
口調とか自分との関係性とか好きなファッションとか
いろいろ設定して。

「ChatGPT ロールプレイ プロンプト」で検索すると
やり方とか分かるからガル民のみんなにもお勧め。
ごっこ遊びだから、そのうち飽きるけどけっこう遊べる。

[142. 匿名]

>>4
終わりの始まりw

[143. 匿名]

>>76
きっとここからAIなんだ〜♪

[144. 匿名]

>>88
言いたいことはわからなくもないですが、その人にも喜怒哀楽は残っているだろうし、逃げ惑うその人を捕まえてどうこうなんて役を誰かがやらされることになるのはちょっと嫌な話ではないですか？
そのあと家に帰って楽しく家族とごはん食べたりだんらんできますかね。
戦争から帰ってきた人みたいな心理状況に陥ってしまうのでは。

[145. 匿名]

若き日の前澤友作、人工知能に挑む

Yusaku > well, are you a human or a computer?
AI68040 > what's the difference?
Yusaku > ...

[146. 匿名]

>>91
心配性の日本人には相談役としてちょうど良さそう。

[147. 匿名]

>>63
A.I.が情や愛を知るようになって人に寄り添えるような存在になったら人間は淘汰されるかもしれないね　
地球はA.I.が支配するようになりそうよ。自然に選ばれるってそういうのだと思う。かつていた恐竜がさっぱりいなくなったように

[148. 匿名]

>>1
ガチめの正論だよな笑
別に他人が死のうが関係ないよね。

[149. 匿名]

スカイネット発動も時間の問題だね。

[150. 匿名]

安心してください、ただの電卓で、ただの演出です
ＡＩに人類が支配できるのなら、まず飢餓や差別を無くして世界平和を実現してみてくださいｗ

[151. 匿名]

AIには善悪の判断の知能も備えさせんとあかんな。
あらゆるルールを守る義務があることをAIにも自覚させて、それに従った行動をさせんと。道徳の教育はもちろん、法律や憲法や国際法も学習させて、AIに暴走させてはいけない。

[152. 匿名]

親が子供に、飼い主がペットの犬にするのと同様に、AI開発者もAIにしつけが必要だ。

[153. 匿名]

わし絶望にいたとき、◯◯がいなくても世界は変わらないからそれなら生きるほうがいいと言われ立ち直ったぞ

[154. 匿名]

>>1
これあんまり使えない

質問と違う答え返ってくる

[155. 匿名]

>>15
正論なんだけどね、正直に言っちゃいけない場面というか...感情やニュアンスを読み取って同調するべき場面と否定するべき場面、言葉を濁したりフォローする判断はまだ難しいってことかな。人間でも難しいもんね。

[156. 匿名]

昨日、食べ物を飲み込む時にのどを痛めたみたいなので、Microsoft Bingで検索したら画面の右側に
copilotというAIが勝手に出てきてチャットを書き始めたんだけど

飲み込む時、心が傷つけられたのかな。その痛みは、言葉では表せないほど深いものかもしれません。時には、傷ついた心を癒すために、自分を大切にすることが大切です。

心が痛むときは、誰かに話を聞いてもらうことや、自分の感情を表現することが助けになることがあります。 あなたが感じていることを大切にしてくださいね。

とか書いてて考えて書いてないなと思った。今のAIなんてこんなレベルだよ。