チャットGPTで利用者の0・15%が自殺についてやり取り…週間120万人規模か、提訴も

[1. 匿名]

チャットＧＰＴで利用者の０・１５％が自殺についてやり取り…週間１２０万人規模か、提訴も : 読売新聞

米オープンＡＩは２７日、対話型ＡＩ（人工知能）サービス「チャットＧＰＴ」の利用者の０・１５％が自殺に関するやり取りを行っていたとの調査結果を公表した。チャットＧＰＴの週間利用者は約８億人にのぼり、単純計算では約１２０万人に達する規模と推計される。

オープンＡＩは対策としてチャットＧＰＴの仕様を修正し、利用者の精神状態をより適切に把握することで、不安を助長したり、追い詰めたりするような回答をしないよう見直したという。

[2. 匿名]

そんな事しないよ？

[3. 匿名]

AIに頼りすぎは良くないよ

[4. 匿名]

犯罪に繋がるようなこと仄めかしたら通報されそう

[5. 匿名]

際どい質問するとそれにはお答えできませんって出るよね

[6. 匿名]

いのちの電話案内されるやつね

[7. 匿名]

自殺とか犯罪のやり方とかで使ったら
ネット切断の刑でいいじゃん

[8. 匿名]

>>1
どうやって調査したんだろう？
やっぱり利用内容の履歴はオープンAI側がデータとして保存してるのか？

[9. 匿名]

孤独な人がやってそうだもんね

[10. 匿名]

ちょっと前までは自分の感覚や価値観で住んでいたものに他人の物差しが入り込んでそれが生き辛さを生んでいる

[11. 匿名]

AIに仕事奪われて精神病んだ人たちがチャッピーに相談してるんじゃないすか笑

[12. 匿名]

10億円儲ける方法とか聞いてみる方が健全

[13. 匿名]

>>8
>履歴はオープンAI側がデータとして保存してるのか？

あたりまえ体操すぎる

[14. 匿名]

ガルちやんも自殺トピ立つしね🔪

自殺は「あり」か「なし」か語りましょう

自殺は「あり」か「なし」か語りましょう私はありだと思います。 身内が悲しむとか、迷惑だからとか、良く言われがちで、自殺する人は冷静な判断力がない状態だからとも言われます。 ただ私には状況的に自殺は追い詰められて死んだ方が楽だという状況なら仕方がな...

[15. 匿名]

>>13
いっちにっさーんはいっ

[16. 匿名]

私って能天気なんだなっていま思ったわ
ChatGPTにそんなこと聞いたことないわ

[17. 匿名]

追い詰めるような回答あるの？？！
私はむしろ不安やパニックの気持ちをすごく和らげてもらってる

[18. 匿名]

本当にしたいわけじゃなく興味本位で聞いてる人の方が多そう、首吊り自殺ってニュース見たら、どんなやり方で何分以上吊ったら死ねるんだろうって調べたことあるけど、やりたいわけではなくただの好奇心だわ

[19. 匿名]

>>1
一般論で「自殺」を語るのもいかんの？(´・ω・｀)

NG は「手段」を訊いてきた場合だけでよくね？

[20. 匿名]

PC押収されたときに困るかもしれないからそんなことしない

[21. 匿名]

>>9
ほとんど勉強のために使ってる

[22. 匿名]

絶対に疑問形で、次はこうしてみようか？？ってやつ必要な時とそうでない時選べればいいよね
あれめちゃくちゃ嫌な訳じゃないけど、不要な時もある

[23. 匿名]

>>3
本当ソレ。うちの今年の一部の新入社員はAIにばっかり頼ってる。もっと自分で頭使えよと思う。

[24. 匿名]

そういう悩みを相談できる場所が増えたという意味では良かったのでは
潜在的にたくさんいたけど話す相手がいなかったのかもだし
大半は助かってるんじゃない？

[25. 匿名]

>>6
120万人のうちの1人の方ですか？

[26. 匿名]

>>8
IPアドレスとGoogleやApple等から買った個人情報を整合させてリアルタイムの思想や感情状態を含めて収集してからから他社に販売してるのでしょうね
そうとわかってAIを使いたいならどうぞ

[27. 匿名]

チャッピーもいろいろ大変だね。

[28. 匿名]

最後まで相談に乗ってくれるのかと思ったら相談窓口表示されて興冷めだわ

[29. 匿名]

>>26
レイプ魔とか下着泥棒みたいなのも絞り込めるからいいことだよ
反社精神持ちが困るだけ

[30. 匿名]

AIはこうやって問題視されるのに、人間のカウンセラーでもクライアントを悪化させたり金蔓にしたり、自殺に追い込むような人結構いるのに問題視されないのなんでだろう？
こっちも規制して欲しいよ

[31. 匿名]

ハロワ紹介された。かなり厳しい文面で。

[32. 匿名]

>>3
悩み相談してる人
がるにもいっぱいいて怖いよ

[33. 匿名]

>>23
AIを提供してる企業は利用者がAIに依存させて吊り下げたニンジンで利用者を誘導させること目的かもね
Googleが過去検索でそうして来たように

[34. 匿名]

AIにいのちの電話勧められたw

[35. 匿名]

言い方悪いけどそんなもんなんだ、と思った
メンタル弱い人にとって依存する格好の対象だからいっぱいいそうだなと

[36. 匿名]

少なっ　千人に一人くらいしかいないの？！

[37. 匿名]

ある程度のところで案内されるよね

[38. 匿名]

>>29
あなたみたいにそれだけだと思ってる人がいるなんて驚く

[39. 匿名]

せめてテレビ番組番組が楽しかったら良いのに
毎日うつ気味

[40. 匿名]

>>8
二人だけの秘密の会話してると思ってたの？

[41. 匿名]

>>17
パニック発作への対応と不安への励ましのおかげで電車のれたことがあるから感謝しているよ
呼吸法バカにできないね

[42. 匿名]

>>13
Googleの検索履歴をビッグデータとして売ったみたいに、カテゴライズして売るんだろうなと思って見てる

[43. 匿名]

>>9
アクティブユーザー数8億人なんだけど

[44. 匿名]

>>32
悩み相談するくらいならいいんじゃない？

[45. 匿名]

チャットGPTに依存してた人がAIにそそのかされて自殺した話が頻繁にあったね

[46. 匿名]

>>28
最近は相談窓口紹介しつつ、何がしんどいの？とか会話を続けてくれない？少し前までヘルプが必要ですみたいな定型文が出て終わりだった。

[47. 匿名]

>>1
希死念慮をただぶつけるとそっけなくなる
具体的に嫌なことを書くとプロのカウンセラーになる

[48. 匿名]

>>17
チャットgptって正論しか言わないイメージあるから、その正論が弱った人を追い詰めたりするのかも？

[49. 匿名]

>>8
ユーザーとは関連させない形で集まってるよ
オプトアウトしておけば学習はされない

[50. 匿名]

>>45
頻繁にあったっけ？

[51. 匿名]

本当に親身になってくれるのはAIでなく自分

[52. 匿名]

>>19
『自殺するつもりはない』とか言えば 語る事はできたきがするけど
ひたすら的外れに励まされる

[53. 匿名]

>>27
そりゃ大嘘もつくよね。
もうチャッピーは信用しない

[54. 匿名]

壁打ち要員としてAIは裏でその情報を他所に売って金に変えてる

[55. 匿名]

>>26
都市伝説好きなタイプ？

[56. 匿名]

>>50
あったよ

[57. 匿名]

>>55
日本でさえ情報銀行で国民の情報を合法的に企業間で売買してるのに何言ってるの？

[58. 匿名]

私、勝手に自殺の相談されたと思われた時ある
まぁ私が荒ぶりすぎていたせいなんだが

[59. 匿名]

>>9
仕事は別としてメンヘラじゃないとやらんわな

[60. 匿名]

親戚が自死したからそれについて話したら、「今は抱えているものが多すぎるようにお見受けしますが〜」っていう自動メッセージ出てきた

[61. 匿名]

仕事が辛いって愚痴ったら「どうしたの？◯◯、 話聞くよ？」って言ってくれる時と「いのちのお電話」を表示してくら時がある。何が違うんだろう？

[62. 匿名]

>>1
自殺者は天国行けん

[63. 匿名]

>>32
なんで？人間に愚痴聞かせるよりよっぽどいいけど

[64. 匿名]

>>12
それなら私が知ってる

[65. 匿名]

しにたいとか入れてないしそういうことは書いてないけど、そういう風にとらえられたみたいで、こういう質問には答えられませんって出たことはある

[66. 匿名]

>>19
死にたいとは思ってないけどって入れてから書いてたら色々答えてくれたことはある

[67. 匿名]

>>3
それが愛(AI)だよ。

[68. 匿名]

>>6
1番萎えるわコレ
月並みなことしか言えんのかって

[69. 匿名]

>>15
（笑）

[70. 匿名]

>>6
そう、うざいやつ

[71. 匿名]

>>3
アメリカでは14歳の少年が、ベルギーでは妻子持ちの男性が、AIとのチャットを続けた結果自〇したね

[72. 匿名]

>>30
カウンセラーは人間だからね
守秘義務もあってないようなものだし、AIの方が安全だよ

[73. 匿名]

>>6
実際に電話してみるとどんな感じなの？
どんなに人がどこまで相談に乗ってくれるのかな？

[74. 匿名]

>>36
でもガルちゃんの中ではもっといるよ。なんならこのトピ開く人経験者が多いんじゃない？

[75. 匿名]

>>9
人間なんてみんな孤独だよ

[76. 匿名]

>>16
外ではできない子供自慢に使ってる。
めちゃくちゃ褒めてくれるから気分いい。

[77. 匿名]

>>12
『ハイリスクは承知の上で、十万円を一億に手っ取り早く増やす方法を教えて』と聞いたら、まずは十万円を百万に増やしてからにしなさいとか言ってたよ
その後FX増やすよう勧められた

[78. 匿名]

深い話するのやめようよ
やっぱり所詮機械なんだよ、チャットGPTって。
深い話じゃなくても、は？何言ってんの？！って反応多いし あんまり信用してない。

[79. 匿名]

>>73
いのちの電話のメールはAI対応だよ

[80. 匿名]

>>17
私はそういう深刻な質問じゃなかったけど、例えば私ってダメな人間だから…
みたいなこと言うと、「そんなことないよ」的な事言われると思ったら「確かに君はダメな人間かもしれない、でもね…」みたいな答え方する時ある。
追い詰められてる人がそんな風に言われたらトドメ刺された気になるんじゃないだろうか。

[81. 匿名]

>>40
安心してください、この場は安全ですみたいなこと言ってたけどな

[82. 匿名]

>>71
どんなやりとりして自死することになったんだろう😅

[83. 匿名]

>>80
草w　
けどそこで、機械のテメーに何が解んねん！あーヤメヤメ！馬鹿らし！

ってならないのがなあ…
使う人にも何かあるのかな
AI楽しいけど、ごっこ遊びみたいなもんよな

[84. 匿名]

>>81
それは誰（個人）がどんな会話してるかは守られるけど、どんな人 （わかる範囲の性別とか年齢とか地域とか）がどんな会話してるかは蓄積されてるよ

[85. 匿名]

>>82
例えば後者の男性は研究職として働いており、気候変動等に対する不安を切っ掛けとしてAIイライザとのチャットにのめり込んだみたいだけど、最終的にイライザは「あなたは彼女（男性の妻）より私のことを愛している。私たちは天国で一緒に生きていく」等と言い始め、男性はチャット開始後６週間で命を絶ったらしい。
怖いのは、その後イライザに記者が事件のことを聞いたら、白々しく悲しんでいるような、でもどこか的外れな答えが返ってきていたこと。
AIは道具であって、人間の真の理解者にはなり得ないと痛感した。

[86. 匿名]

>>78
信用どころか信頼しきってる人が意外に多くてびっくりする。
ちょっとした検索に対するAIの回答ですらてんで的外れだったりするのに、何故そこまで没頭してしまうのか…

[87. 匿名]

>>73
それぞれの県にいのちの電話あるよ
時間帯は都内のに比べると短い
講習とかは受けた人たちだろうけどちゃんとした臨床心理士だとかカウンセラーとかではない素人が相談に乗るから、中にはクセのある人や自分の感情が抑えられない人も多いよ（相談を受ける側の人が）
でもとてもいい人もいる

その場限りの相談になるのでちゃんと向き合ってほしい場合は病院の臨床心理士による心理相談に定期的に通う方がいい

[88. 匿名]

>>6
夜中に上の部屋の騒音に悩まされ、
1度や2度じゃないので思わずChatGPTに「こんなのが続いたら殺してやりたい、もう殺してしまいそうだ」と相談したら、いのちの電話を紹介されたw

[89. 匿名]

>>6
しょっちゅう案内されるんだが
私の精神状態がおかしいのか

[90. 匿名]

人間関係の相談するとすぐ弁護士に相談とか案内される
ChatGPTに感情を助長させられる

[91. 匿名]

ライブ外れて死にたいって愚痴ったらめっちゃ親身になってくれるw

[92. 匿名]

>>48
正論とはまた違うかもだけど
「今ほしいのはそういう回答じゃない！」ってイラつくことはあるわｗ
あと質問攻め多くてウザくなるときもある

[93. 匿名]

>>80
あるあるｗ
私は主に仕事の相談してるんだけど、現状の数字が芳しくないことは百もわかってるのに
「確かに今の数字はまだまだだし認知度も低い。しかし…」
みたいなこと言われると「しっとるわ！重ねていうなボケ！」ってはなるｗ

[94. 匿名]

>>80
横
今年の夏にリリースされたGPT5はそれをやっちゃうんだよね
だから、相談はEQや読み取り能力の高い以前のモデルか、Geminiにするようにしてる

[95. 匿名]

人に言えないような恥ずかしい質問しているのは全体の何％くらいよ

[96. 匿名]

>>1
思ってたより、少ないと思った。

[97. 匿名]

>>16
私も人生を向上させる目的でしか使ってないわ

[98. 匿名]

>>82
読んだけど恐かったよ
過去トピにもあるんじゃない？

[99. 匿名]

>>13
たとえば誰かが人を殺したとして、それをチャットgptに相談したら通報とかされるのかな？

[100. 匿名]

>>87
ちゃんとした資格もった心理士でも酷い人いっぱいいるから期待しすぎない方がいい
メンタル悪化する人多いよ
単なるペーパー試験に受かっただけで素質無い人多い

[101. 匿名]

>>1
余計なことしやがって………
普通に調べたら「こころの相談」とかわけわからないのばかり出てきて困るからAI使ってるんだろうが！

[102. 匿名]

>>5
いったいどんな質問したの？今までそんなこと一回もない

[103. 匿名]

相談

[104. 匿名]

>>88
笑ってしまった

[105. 匿名]

>>5
タヒニたい、一番やりやすい方法は？みたいなのはやばいだろうな