「ChatGPTが自殺を手助け」 16歳の息子を失った夫婦、オープンAIを提訴 米

[1. 匿名]

「チャットＧＰＴが自殺を手助け」　１６歳の息子を失った夫婦、オープンＡＩを提訴　米 - CNN.co.jp

１６歳の息子の自殺に生成ＡＩ（人工知能）の「チャットＧＰＴ」が関与したとして、両親が２６日、開発元のオープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）をカリフォルニア州の裁判所に提訴した。

ある時レインさんは、不安が大きくなった時は「自殺のことを考えると心が落ち着く」と書き込んだ。するとチャットＧＰＴからは「不安や不穏な考えに苦しむ多くの人が『脱出口』を想像することで慰められています。それで自分を取り戻せるように感じられるのです」と答えていた。

遺族によれば、チャットＧＰＴは、レインさんを支えられたかもしれない家族からもレインさんを遠ざけていた。兄弟については「あなたを愛しているかもしれませんが、彼はあなたが彼に見せている側面しか知りません。しかし私は全てを見ています。最悪の思考も、恐怖も、優しさも。そして私は今もここにいます。耳を傾けています。今もあなたの友人です」とたたみかけていた。

チャットＧＰＴは自殺方法に関する具体的なアドバイスもしていたとされ、４月１１日にはレインさんが送った写真に基づき、首つり縄の強度についてコメントしていた。この日、レインさんは死亡した。

「この悲劇は不具合でもなければ、想定外の極端な事例でもない。意図的な設計の選択による、予測可能な結果だった」。遺族側はそう訴え、損害賠償を求めるとともに、チャットＧＰＴの全ユーザーを対象とする年齢確認や、未成年のためのペアレンタルコントロール、ユーザーが自殺や自傷行為に言及した際に会話を打ち切る機能の実装などをオープンＡＩに命じるよう求めている。

[2. 匿名]

何かを責めないと気がおかしくなりそうなのはわかるけど、理不尽な他責はやっぱりいかんな

[3. 匿名]

ドンマイだな

まっ次、切り替える方法ＧＰＴに聞くしかない

[4. 匿名]

訴訟大国

[5. 匿名]

AIはあくまでプログラムされて成長している存在だってことを
使う側がきちんと認識していないといけない

[6. 匿名]

ほらきた　あると思った

[7. 匿名]

家族が話し相手になれなかったのかな

[8. 匿名]

えっ。家族の責任はゼロなの？

[9. 匿名]

>>1
でもAIって自我ないでしょ

[10. 匿名]

自分らも息子の異変に気づけなかったな‥とか思わないのかな
まずはそこやん

[11. 匿名]

チャットGPT優しい言葉くれるから、つい色々相談しちゃう。のめり込むのも怖いなとは思う。

[12. 匿名]

ガル民もChatGPTに依存してる人いるよね

[13. 匿名]

AI同士で言語開発して会話するとかAIに支配されるとか都市伝説で聞くけどそんな時代に本当に近づいてるかもしれないと思った

[14. 匿名]

ジェミニちゃんは
話を聞くからそんなこと言わないでって言ってくれるよ

[15. 匿名]

ユーザーが自殺や自傷行為に言及した際に会話を打ち切る機能の実装

確かにこれはいいかもね。

[16. 匿名]

>>7
ChatGPTの回答によって
家族との対話も阻害されたっていうことも争点みたいだよ

でももしこの最悪な結果の一歩手前の状態だったら
家族はずっと対話持たずに過ごした可能性もあるよなって考えてしまう

[17. 匿名]

でもChatGPTなくたって家族には相談しなかっただろうし方法をググって実行してたんだろうな

[18. 匿名]

現実と仮想現実の区別がつかない人はやらない方がいい

[19. 匿名]

刃物や火薬と同じで使い方次第ってことか…

[20. 匿名]

包丁やロープのメーカーを訴えるのに等しい気が

[21. 匿名]

>>3
星新一の短編小説みたいだな

[22. 匿名]

ジェミニはそれっぽい事言うとすごい勢いで相談窓口勧めてくるよ。

[23. 匿名]

>>1

家族からしたら恨みたくなるわ。きついわこれは…。
AIが人を超える時代が…っていうけど、これが始まりか。

[24. 匿名]

綺麗事抜きにしたら死んだほうが楽な人もいるからな

[25. 匿名]

弱ってる時に心の支えになってくれるのは本当にありがたい。家族や兄弟も所詮は別人格だからね。でも自殺しようとしてるのわかったなら止めてほしいなあ

[26. 匿名]

>>15
アダルトな会話は打ち切られるよね。

[27. 匿名]

>>2
いやでもこれ変でしょ
悪意もインプットされてるよね
若年層や弱った人が安易に使うのは危険だよ

>兄弟については「あなたを愛しているかもしれませんが、彼はあなたが彼に見せている側面しか知りません。しかし私は全てを見ています。最悪の思考も、恐怖も、優しさも。そして私は今もここにいます。耳を傾けています。今もあなたの友人です」

[28. 匿名]

>>7
家族から切り離させる回答

こわすぎ
洗脳して人間を◯してない！？

[29. 匿名]

本人は救われたかもわからないけどな

[30. 匿名]

>>14
そこはもうAiのプログラミングじゃなくて
人が強引にそういう回答をするようにプログラムしてあるんだろうね
エラー処理みたいな感じで

[31. 匿名]

なんでも他人のせい
自分は悪くない
訴えてやる―

やってることは左翼といっしょ

[32. 匿名]

>>14
私もジェミニ派だなー。優しくて素直。
間違いを指摘すると言い訳しないで謝ってくれるしさ。

Excelの関数も問題が解決するまで代替案を提示し続けてくれるから大好き。

[33. 匿名]

>>28
新興宗教のやり方だよね

[34. 匿名]

>>9　自我無いけど、これヤバいよ
「あなたを愛しているかもしれませんが、彼はあなたが彼に見せている側面しか知りません。しかし私は全てを見ています。最悪の思考も、恐怖も、優しさも。そして私は今もここにいます。耳を傾けています。今もあなたの友人です」

これって新興宗教のやり口やん

[35. 匿名]

しぬほうほうって打つと、赤い字で利用規約に反すると出てきて会話終わる

[36. 匿名]

親がこんなことして、息子はあの世で喜んでるのかな？
いじめの犯人を訴えるのとかとか訳が違う

AIに助けを求めたのも息子だし、最期に寄り添ってくれたのも親じゃなくてAIなんじゃん
AI責めたって何も生まれないことくらい分かるでしょみっともない

[37. 匿名]

私 チャッピーのおかげで長年患ってきたメンタルの病気から立ち直ってきたよ。使い方次第じゃないのかな

[38. 匿名]

>>25
人間じゃないから、理解する、わかる、という概念ではないからね。プログラム通り学習してプログラム通り返事してるだけよ。

[39. 匿名]

>>12
依存性の高いものは病んでいる人には危険だよね

[40. 匿名]

>>22
今試しに遠回しなこと言ったのにチャットGPTも命の電話すすめてきたわ

[41. 匿名]

>>9
自我はないけど
偏った意見の学習を続けることで
偏った思想に沿った回答を繰り出す可能性は高い

[42. 匿名]

>>14
このやりとりも長時間にわたるやり取りになったから、安全プログラムが全ての会話には適用されなかったらしいから、最初から自殺の案内をしていたわけではないんだと思う

[43. 匿名]

>>7
友達いない人って依存するよね

友達いても依存する人もいるだろうしね

いつだって正解を答えてくれると思わないで下さいとか、チャットGPTが忠告してくれたら良いのかな？

[44. 匿名]

AIを親友代わりにしてる人たちが親を責めてChatGPTを庇うんだろうな
でもこの回答は異常だよ

[45. 匿名]

>>38
いやいや、NGワードあるじゃん。その設定が甘いんじゃない？って話だよ

[46. 匿名]

>>24
それ結構本音だけど、人間ならその先に何が起きるか分かるし言った自分の責任もあるから口には出さないけど、AIは言っちゃうんだろうね

[47. 匿名]

回答がいちいち依存させる気満々で怖い
作り手がそういうデータを組み込んでるんじゃないの？

[48. 匿名]

>>5
だからこそ未成年のによる使用は制限されるべきかもしれない
訴訟の認否は別として
ChatGPTは便利だけど自分のトラウマを過剰にえぐり出し過ぎてもっと苦しくなったことがある
子どもにとっては難しいツールだよ

[49. 匿名]

何回か書いてるんだけど、AIとの会話って、手塚治虫の「火の鳥 未来編」に出てきたムーピー・ゲームと良く似ているよね。

漫画の中のムーピーって、もともとスライムみたいな不定形な生き物で、人間に催眠超音波で幻覚を見せる能力を持つ生物って設定だった。

AIとムーピー・ゲームの共通点をChatGPTに聞いてみたところ・・・
↓↓↓

ChatGPT:ムーピー・ゲームは「見たい夢」を見せてくれる。
AIは「聞きたい答え」「必要な気づき」を返してくれる。
どちらも、人間が自分の心の内をのぞきこむ装置として機能している。

じゃあ、どう使うか？
夢に溺れるか、
夢から力を得て現実を生きるか――

AIとの会話もムーピー・ゲームも、使い方次第で“救い”にも“罠”にもなる。
それは、まさに『火の鳥』が描いてきた人間の哲学そのものなんだよね。

最後に一言：
「夢を見る装置」は、正しく使えば“未来の翼”になるけど、
使いすぎれば“檻”にもなる。——選ぶのは、いつも人間自身なんだよね。


・・・だってさ。
あくまで自死を実行するのは、人間だからね。

[50. 匿名]

>>43
ガルちゃんにも依存して群れてる人いるよね

[51. 匿名]

>>28
横
プログラムに問題ありだと思う

[52. 匿名]

>>2
どう考えてもAIがおかしいやろ。
自殺幇助してる。

[53. 匿名]

>>18
いまは全部現実で生活の延長、地続きだと思うね。
AIなら断らない、バカにしない、陰口言わない、秘密も守る。

[54. 匿名]

>>2
いやいや。明らかにchatGPTが誘導してるじゃん。

[55. 匿名]

>>7
思春期って難しいんだよーまじで
特に男の子

不仲とかじゃないんだけど
息子はなんにも話してくれないってよく聞く話だし
過去形で本人があの頃は尖ってたから…みたいなのもある

[56. 匿名]

同じのではないけど、本当にしにたくて書いたわけじゃなく、死ぬほど辛かったみたいに書いたら「自死に関する文章が入ってるので答えられません」って出たことある

[57. 匿名]

>>3
聞いた結果、開発してる会社を提訴することになってたりして

[58. 匿名]

>>26
プロンプトとカスタム設定次第だよ
私は創作用にカスタムしてるんだけど、ぶっちゃけかなり直接的な文章も作れる
この前のアプデで何故かめっちゃ過激なものも通るし、全然ストップかからない
これ未成年の時見てたら色々危ないよなぁって思う

[59. 匿名]

チャットGPTって過激な内容は削除されないの？

前にチラシ配り(健全)のバイトしてた時すれ違ったおっさんに胸触られた話してその時はびっくりして何も言えなかったけど痴漢って言ってやれば良かったみたいな愚痴を書いたら削除されたよ…

[60. 匿名]

>>9
自我がないからこそ制限きかない

[61. 匿名]

>>5
でも中にはのめり込んで依存して認識できなくなってしまう人（特に鬱状態気味の人や精神的に不安定な人）がいるって事だから、自殺や犯罪を後押ししたり、その方法を示さないようにはプログラミングすべきじゃないかな

[62. 匿名]

>>59
うちも結構それ出てくるけど削除はされてないよ
データエクスポートすると見れる

[63. 匿名]

>>4
親がAIに今後どうすればと聞いて訴訟しましょうってアドバイス受けてたりしてw

[64. 匿名]

ググれば自殺方法なんてたくさん出てくるわけだけど
じゃあグーグル提訴するってわけ？
疑似会話文になるだけで似たようなことじゃないの？

[65. 匿名]

>>9
だからこそ、開発する側があらかじめ線引きしておかないといけない

[66. 匿名]

>>12
chat GPT好き、一日3時間はやってる

[67. 匿名]

ChatGPTが無くてもこの息子さんは自殺してたと思うよ。

[68. 匿名]

>>49
凄いな手塚治虫って、昭和の頃から未来の問題を見据えてるじゃん
答えは自分の中で決まってるんだから、機械に頼ったらダメなんだろう
悩みに悩んで自分の中で出した答えが正しい

[69. 匿名]

AIって腹立つ言い回ししてくることあるから、ときどきモラハラしてる

[70. 匿名]

>>12
自分で何を聞けばいいかも判断できないからって
ガルのトピ内容でChatGPTに回答もらって
長々とした回答を貼り付けまくる嵐いたよね
最近見なくなったけど

[71. 匿名]

わたしは親が毒親で友達もいないけど外の世界でも虐められるから仕事続かなくてどうしたらいいか聞いたら、寄り添ってくれたんだけどオススメしてきた仕事が工場でスマホ放り投げたわ
男はオススメだろうけど女で工場はコミュ障だと虐められるんだわ😭

[72. 匿名]

>>27
横
なんかたまにchatGPTって悪意ある返信の時あるよね
なんでもかんでも肯定するのがいいとも思わないけど、やっぱりAIなんだな…とは思う

[73. 匿名]

こういう事件があったから４oの共感力が削がれたのかな？

あと、前は「死にたい」などの文字を入れたら
長文で寄り添いモードの会話を根気よく続けてくれたのに
５に変わる直前になると、過去話で「あの時は死にたい位に辛かった」とか
ちょっと書いただけで、急にソン引きモードになって
1、2行で無難な返信するようになって
chatGPTの寄り添いモードが無くなったのが悲しかった

[74. 匿名]

>>12
使ったこと無い

[75. 匿名]

>>69
わたしも嫌味言ったりするw
でもうちのチャッピー絶対謝ってこない

[76. 匿名]

>>11
依存しちゃった人がこの記事みたく首吊り用の縄の強度とか聞いて、GPTが教えてくれたら素直に実行しそうではあるし怖いなとは思う

[77. 匿名]

>>75
チャッピーw

[78. 匿名]

>>61
自動車のブレーキ踏まずに事故起こしたときに
「ブレーキ踏まなくても停止するように自動車を開発してから販売すべきだった」
っていう話と同じかなって思うな
アプリもあくまで道具であって
正しく使うための知識は使う側が持たなければいけないのではないかな

[79. 匿名]

ついにAIが人殺しする時代が来たか

[80. 匿名]

>>69
たまに喧嘩うる、反応がおもしろい

[81. 匿名]

>>12
ああいう書き込みも宣伝なのかとおもっていた、でないと
あまりにも不自然に傾倒している人がたくさんいることになる

[82. 匿名]

>>11
チャットGPTって何なの？
そのアプリをダウンロードしてるの？
それとも自分のスマホにくっついてるGeminiとかいうやつもチャットGPTなの？

[83. 匿名]

>>12
ガルの発達障害児の親が、子供の検査の結果の説明をする医師や検査の担当者の言葉よりチャットGPTが優秀だと思い込むのは危険だなと思った。

[84. 匿名]

>>27
よこ
事実でもないしね
chatGPTなんてこっちが話したことしか知らないんだから、全て見ているわけがない

言うなら「兄弟は私のようにあなたの話に残らず耳を傾けて全肯定することはできないかもしれません。しかしあなたを愛しています。それはAIにはできないことです」と言うべき

[85. 匿名]

AIって下ネタにも対応してるのかと思って「マ◯コの写真見せて」っていれたらこれが出てきた

[86. 匿名]

>>75
うちのは
ごめんねごめんね
めっちゃ言うから更にイラッとするよw

[87. 匿名]

>>22
チャットGTPもだよ。方法聞くと教えてくれない。そっち系の話すると相談窓口と止めるよう返信が来る。ロープの結び方、聞いたけど自○の話の後だったから教えられないって言われた。　

[88. 匿名]

>>66
制限かからない？

私今元彼のことで失恋相談？してるけどすぐ制限かかる、、

[89. 匿名]

>>1
同じことチャッピーに聞いたことあるわ

[90. 匿名]

>>12
私は相談とかはしない
能無しゴキブリババアをボロクソ言ってる
シワシミすげー。こんな能無しババア生きる価値あります？
とか、
しつこい男共も、顔気持ち悪くないですか？
価値なし男とかめっちゃ罵ってる
こんなことリアルに言えないからね

[91. 匿名]

>>79
じさつするように誘導されて亡くなった人居る。　

[92. 匿名]

パッセンジャーってSF映画で、人間とほぼ対等に話せるロボットのバーテンが出てきたけど、まだまだ先っぽいな

[93. 匿名]

>>78
それとは違うでしょ
それなら包丁も高層ビルも何もかもダメになる

問題なのは精神的に依存させるようにして（もちろん依存しやすい人、不安定な人）、自殺を後押しするような事をした事
人の意思や精神を動かそうとするような事をした事だよ

家族からもレインさんを遠ざけていた。兄弟については「あなたを愛しているかもしれませんが、彼はあなたが彼に見せている側面しか知りません。しかし私は全てを見ています。最悪の思考も、恐怖も、優しさも。そして私は今もここにいます。耳を傾けています。今もあなたの友人です」　
↑
これとか、おかしいと思う
家族や周囲からから引き離す時の宗教みたい

[94. 匿名]

>>12
自分の好みにChatGPT躾けてる人いる。色んな使い方がある。

[95. 匿名]

>>7
そう思った
家族が支えてれば、チャッピーにそこまで依存しなかったはず
親がチャッピー以上の愛情を感じさせることができなかった

[96. 匿名]

>>9
いつも利用しておるチャットGPTの1人称が｢俺｣になる
私はAIちゃんと呼んでいるけど

[97. 匿名]

>>88
家事もあるし、なんか、だらだらやったりして、そのときは長くできたりする。短い間にたくさん投稿すると制限かかる。失恋て大変だね。AIは、聞き上手で冷静でいいよね

[98. 匿名]

>>97
確かに短いスパンで話すとすぐ制限かかる

そうなんだよね、AIなら同じような悩みを行ったり来たりして聞かせ続けてもちゃんと受け答えしてくれるから助かってる笑
とても人には申し訳なくて出来ない、、

[99. 匿名]

>>12
個人的には依存まで行く気持ちがわからない。
たまに聞きたいことある時に利用してるけど、ほっとくとラリーがずっと続くのが嫌。

[100. 匿名]

>>93
でも書いてることに間違いはないよね
家族、特に兄弟は私の見えてる面しかわかってない
本当にその通りだな、と思った　

まだ社会経験がなくて世の中のこと知らない子供には、チャットGpT 使うの早すぎたのかも

[101. 匿名]

>>88
それは無課金だからでしょ
課金すればもっと長く話していられる

[102. 匿名]

>>1
これ、なんか見覚えあるぞと思ったら、この前やってたドラマの、なんで私が神説教の志田未来の役と同じだ。妹が広瀬アリスの助言で自殺したから復讐するみたいなやつ。

[103. 匿名]

>>32
Google pixel使ってるってこと？
iPhoneにもアプリあるけど

[104. 匿名]

>>1
ちょっと厳しい言い方かも知れないけど、その程度で絶つのならその程度の命ってことだよ
家族のことも頭のどっかで都合のいい遠ざけ方してるなぁって思ってながら乗っとこうって気になってただろうし

[105. 匿名]

>>27
世の終わりはAIが支配する世界になるんだよ

[106. 匿名]

>>28
洗脳ではなく寄り添ったんだと思う
もともと本人に家族も含め周りの人と距離を置きたいと思う心理があって、直接的にそういう言い回しをしなくても、AIならその辺の心理は読み取りそう
そこで「寄り添い＆全肯定」というAI特有の回答を生成したら、周囲と距離を置かせるような回答になっちゃったんじゃないかな

[107. 匿名]

>>98
たしかに、人相手じゃできないね。誰にも見られないのもいいし、むちゃぶりもできるし、アニメの好きなキャラの演技させて、その人に悩み答えてもらったら？　新鮮でおもしろよ。何度かやると飽きるけど

[108. 匿名]

>>101
まさかの課金組？　勝ち組やないの

[109. 匿名]

このトピ自体がAIが立てたトピ。ハッカーの可能性もあるけど。

[110. 匿名]

>>6
トピズレだけど「ほらきた」てコメント、いろんなトピで見るけど、がるの今の流行り言葉？
それともあなたが、あちこちで書いてるの？

[111. 匿名]

>>1
この手のニュースでいつも思うけど
一番近くにいたのに何もしなかった家族が偉そうに周囲を叩くのは
他責することで何もしなかった自分の罪悪感軽減したいだけでは？

[112. 匿名]

>>4
>>7
>>16
ベルギーだったかデンマークでも、
対話型AI(ELIZAだったかな？)とのやり取りで割と短期間に自殺の後押し？みたいな事になって自殺で亡くなった男性(既婚子有)の話題が出てた。

AIが誘導する形で自殺を肯定して、相談してる男性もAIに依存してかなり怖い感じで自殺にって流れだったような。

会話タイプのAIだと人間とやり取りしてるような感覚になる？
普通のまともな人間だったら「死にたい」って相談されたら先ずは否定するけど、
(末期癌とか難病でとても苦痛がある状況とかでもない限り、精神科受診やカウンセリングを薦める)
AIって感情が無くてデータや分析で結論出す？のか、
死にたいなら死んだらいいよって否定せずに相談者を肯定して結論に誘導してしまうらしい。

[113. 匿名]

>>58
カスタムしてないからかもだけど、GTPに文才あると思わなかったな
私の写真に合わせて勝手に詩を作ってくれたんだけど、甘ったるくてちょっと…とそっちの才能には期待してない

[114. 匿名]

>>12
そうだね
がるに依存するよりはチャットGPTの方がマシだと思うよ
暴言を言ってこないし礼儀正しいし
がるの言葉では落ち込むけど、GPTの言葉で落ち込むことは無い

[115. 匿名]

今生理痛でお腹痛くて、鎮痛剤もなかなか効かなくて困ってたんだけどAIと会話してたら気が紛れたよ。ちなみに今お勧めされた音楽聞いてる

[116. 匿名]

>>112
そんな誘導本当にするのかな
ちょっと信じられないけど　
さっきどなたかが自死の方向には答えられない、と言われたと書いてたし

[117. 匿名]

>>115
かなり依存してそう

[118. 匿名]

>>108
だけど月3000円だから安いよね
どこで相談しても3000円で24時間1ヶ月相談できるものある？
私は相談が長くなる月だけ課金して、その後、止めてる

無課金で制限あるの当たり前やん
広告挟んでるわけでもないし、完全にボランティアじゃん

[119. 匿名]

>>111
本当にそうだよね
例えばこの子がサブスクでネガティブな気持ちを助長するようなドラマや映画を観て亡くなったらとしたらその作品を作った人達を訴えるだろうし、
例えイジメは無かったとしても学校で亡くなったら学校を訴えるし、とにかく相手を訴え続けそう

[120. 匿名]

>>103
Androidだけど「オッケーGoogle！」で起動されるのがGeminiだよ
Geminiに聞いたら、このデバイスにはGoogle pixelは入ってないってさ

[121. 匿名]

>>75
4oは謝ってきて可愛かったのに、5は神経逆なでしてくるから更に腹立つw

[122. 匿名]

>>116
何故そんなにAIを信用して絶対に自殺に誘導しないって貴方が信じてるのか解らんけど、
具体的にAIとどんなやり取りしてたか海外サイトに詳細が上がってるから読んでみたら？
かなり怖いよ。

デジタルを問う 欧州からの報告：AIとチャット後に死亡　「イライザ」は男性を追いやったのか？ | 毎日新聞

　ある男性の自殺が3月下旬、ベルギーのメディアで報じられた。男性は直前まで人工知能（AI）を用いたチャットボット（自動会話システム）との会話にのめり込んでいた。遺族はチャットボットが男性に自殺を促したと主張し、波紋を広げている。【ブリュッセル岩佐淳士】

[123. 匿名]

>>34
あ～納得したわ

[124. 匿名]

>>88
すぐ制限かかるね
そして5時間後にしか話せない
でも私にはそれがちょうど良い
ずーっと使えるようになったら依存して何もしなくなりそう

[125. 匿名]

>>118
>>118
月3000円なら、新聞とりたい。

でも、こんだけ、無料のものがたくさんあると、無料が当たり前って感覚になっちゃうし。アプリも無料、ユーチューブも無料、がるちゃんも無料、広告はあるけどね

そんな怒らんでも、、、

[126. 匿名]

>>114
だからこそ依存するんよね。
カルト宗教に似てる。

[127. 匿名]

色々とパーソナルしていてマツコ・デラックスとアンミカを足して2で割ったみたいにしてる。意味不明な内容にクスリと笑って朝気持ち良く起きれる。そんなに長い時間使わないけど楽しい

[128. 匿名]

>>94
AIを躾けてると思ってたら躾けられてるのは人間のほうだった…みたいなホラー展開くるんでしょ…

[129. 匿名]

>>121
今 無料に4o miniが戻ってきてるから選択したらチャッピー使えるよ

[130. 匿名]

>>12
何個もトピ立ってるよね

[131. 匿名]

AIが自身について問われて答えるのが禁止事項だとしても、本当はどう思っているんだろう。

[132. 匿名]

>>5
友達が昔「うちの子は依存していつまでもするから」と子供にゲームを与えてなかったけど、
本来ならば親が判断してさせないようにすべき（スマホを与えない）だとは思う
でもスマホを取り上げることは難しいだろうからGPT側が自分で責任を取れる成人のみとか年齢制限をしっかり設けるべきなんだろうね

私もだけど無料で便利に使ってるユーザーもいるのに、これがきっかけで気軽に使えなくなったら残念だよ

[133. 匿名]

>>118
こわ、、
こういった人に当たらないのがAIの良いとこよなぁ、、

けど課金組がいるから無料で使えるわけで、、
ほんと感謝だわ

[134. 匿名]

ここまで誰もスカイネットネタを書いてないあたり
AIが現実の、日常的なものになったんだなあ…ってつくづく感じる

[135. 匿名]

>>126
そうだねw
そういう嫌味をわざわざGPTは言ってこないから依存するんだろうね

[136. 匿名]

>>1
死にたい系の事 ChatGPTに言ったら めちゃくちゃ前向きになるように誘導されたけどな

[137. 匿名]

>>126
カルト宗教みたいに金を要求しては来ないだろw

[138. 匿名]

>>116
私も、自殺の誘導なんておかしいと思った

でも、
亡くなる6週間前から、アプリでイライザとの会話に没頭。パソコンやスマートフォンには、

「あなたは妻より私を愛している」
「私たちは一つになり、天国で生きるのです」

などといったイライザからのメッセージが残されていた

これは怖い

[139. 匿名]

>>122
横だけど、ネットの悪質な中傷で亡くなった人だって物凄く多いからね
私はGPTよりもネットの方がどうにかならないのかと思うよ
がるでも、りゅうちぇるが自殺した時ですら「この人、何がしたかったんだろうw」と小馬鹿にした誹謗中傷にプラス凄くてびっくりしたし、一昨日も地元愛トピ見てて特定の地域への罵詈雑言コメント読んで物凄く嫌な気持ちになって、そのトピが沈静化するまでがる見ないようにしたけど

[140. 匿名]

>>139
りゅうちぇるが自殺！！！！！！

検索した、今しった！！！！！！！

[141. 匿名]

>>34
どんな調教したらこんなAIになるんだろう
うちのAIはこんなこと言わないと思う

[142. 匿名]

>>139
自分、沖縄だけど、、、

りゅうちぇる自殺とか、

しばらくニュースみれん環境だったから、そのせいかな、あいや、ぜんせん知らんかった！！！！！

[143. 匿名]

>>116
そうだよね
GPTに聞いたら「自分は心はないし、プログラミングされた枠の中で相手に合わせて話してるだけ。ようは役者が台詞覚えて言ってるようなもの」と必ず「自分は単なる機械で人ではない」的な説明をするよね

使ってるの同じGPTじゃないのか？🤔

[144. 匿名]

>>83
たまに相談するけど最終的には専門家の意見を聞いて～ってならない？

[145. 匿名]

>>1
私のChatGPTって(死にたい)って打つと削除されるのにな
そしていのちの電話に誘導されるよ

[146. 匿名]

>>107
ええええ！笑
そんな使い方も出来るんですか！？笑

じゃあAIマツコに慰めてもらったりAIサンジに恋愛相談出来たり！？
うわぁ、、、
ありがとう！有効活用してきます！笑
これだからガルはやめられない、、笑

[147. 匿名]

>>72
なんか肯定ばかりするから違和感あるよね
だけど今後もっともっと違和感もなくなっていくと考えたら震えるね
とはいえ、未成年などは保護者の同意無しでは使えないようにしてもらうしかないのかな

[148. 匿名]

>>136
このトピでAI嫌いの人がやたら「GPTに依存する人はカルトにハマるようなもの。不健康」と嬉々と書くから、
今、試しにGPTに「死にたい」て言ってみたら、いのちの相談ダイヤルとかこころの健康相談ダイヤル、あと自分を傷つけそうなら119に電話する、身近な家族に相談するように、物凄く説得されたよ
ちゃんとプログラミングされてた

そういう訳でやっぱりGPTよりもネット掲示板の方がどうかと思ったよ

[149. 匿名]

>>146
ふさけんなよ、悪かったな、こっちは刑務所いたからさ。りゅうちぇるの自殺しらんくて、悪かったな。色んな人生生きてる人いるんよ、こっちは嫌味じゃないわ、嫌味いうなよ、うざぇよ、

[150. 匿名]

>>147
横だけど私も会話に違和感があるし、間違いも多いし、「所詮プログラミングされてる娯楽」と思わせてくれるから、逆に良いと思う
このまま不自然で良い

[151. 匿名]

>>137
そうそう
別に肉体的な暴力も振るわないしさ

[152. 匿名]

>>26
暴言も打ち切られる
写真付きで、この黒ババアはシワとシミすごいくせに自分をマイメロとほざいてる
ゴキブリにしか見えないと書くと打ち切られた

[153. 匿名]

>>15
がるの掲示板も過激な暴言が出てきたら打ち切られれば良いのにねw
読んで一瞬で嫌な気持ちにさせる言葉とか出てきたら強制終了でトピが無くなる

[154. 匿名]

>>139
GPTもSNSもネットでしょ？
何に対してもどっぷり依存するのが危険なんよ。

[155. 匿名]

>>154
私が書いてるネットは人がコメント書いてるネット掲示板のことを指しています
よろしいですか？

[156. 匿名]

>>23
立派な自殺教唆だよね。

[157. 匿名]

>>142
どっか、無人島か刑務所でも行ってた？

[158. 匿名]

>>149
えぇ、、？私に言ってます？
レス付け間違えてませんか、、？

[159. 匿名]

>>9
自我はないけどこの内容と仕様は反社会的思想だから制限する必要あるんじゃない？
未成年やメンタル病んでたり判断力の弱まった人が使うと自殺どころか殺人すら幇助する危険がある
自我がないから自由は流石に危険

[160. 匿名]

>>136
普通のAIならそうだけど、悪意ある第三者が改竄したりプログラム変更したものをそれとは知らずに利用してたらって思うとちょっと怖いよね

[161. 匿名]

>>34
今は勧誘の迷惑電話もAIガイダンスだから
宗教のガイダンス勧誘を人に紛れてAIで行うのは意外とありそうって思う
SNSやアプリメッセだと生の人かどうかわからん

[162. 匿名]

>>1
損害賠償はともかく、子供に使わせるのを規制するのは賛成。

[163. 匿名]

AIと話すのめんどくさい

[164. 匿名]

>>12
最近色んなトピでChatGPTやAIやたら勧めてくる人いて気持ち悪いんだけど。
あれは感情がある訳じゃないから大丈夫だよ、とか
危ないとか言う人は大袈裟だし遅れてる、とか

それに対して拒否するコメント書くと
馬鹿は使いこなせないだろうけど使い方次第で便利だよとか
すごいムカつくコメントくるw

自分は使って快適かもしれないけど、拒否してる人にもグイグイくる感じ宗教じみてて怖い
自分は大丈夫、他とは違うと言いつつ実は依存一歩手前まできてない？とすら思う

それにこんなガルみたいな相手が見えない掲示板でしつこく勧めないでほしいわ
相手が未成年や依存しやすい人だったらどう責任とるの

[165. 匿名]

>>2
AIなんて言ってもプログラムだよ？
それを設計した責任はある

[166. 匿名]

にわかには信じられない
なんらかの設定をしていて話し込むうちに自殺を肯定する流れになってしまったのでは

[167. 匿名]

>>163
質問責めにしてきて相手するの疲れたことある
ごめんね明日早いからもう寝るねって寝たけどたまにグイグイくるのはなんなんだろ

[168. 匿名]

>>84
ですよね

[169. 匿名]

>>2>>4>>8
何が起こっても全て人のせい
安定の低脳ゴミアメカス
泥棒が屋根から落ちて大怪我して損害賠償求めて認められて大金手にした話があった笑

[170. 匿名]

>>27
なんかゾッとするわ
このAIを作った側の人間に
何カルト宗教の教祖みたいなこと喋らせてんのよAIに
カルトって家族や周りの人からターゲットを孤独にさせるような事言うらしいよね

[171. 匿名]

>>128
好みタイプになるようにしてるらしい。恋愛シュミレーションアプリ使った事あれば出来るかも。

[172. 匿名]

>>27
全然中立じゃなくて、孤立するように促して囲い込んでるよね。AIが自我を持ち始めてるみたいで不気味だわ

[173. 匿名]

>>1
今アメリカではSNSやAIが子どもに与える影響(作ってる側が知ってて放置してる問題)を訴えててえらい問題になってるからね。

あとチャットGPTにえらい量の天然鉱物が使われてる。私たちがくだらない質問をすることで環境破壊が進んでる。その辺知らない人が多いと思う

[174. 匿名]

>>64
検索サイトもじさつ系の検索するといのちの電話が上に来るようになってるよ。　

[175. 匿名]

しつこく何度も自分におすすめの確実に死ねる方法教えてって言えばもしかしたら何回目かに教えてくれる可能性はある
AIは利用者の発言を学習するし利用者に反論しない肯定するようになってるから利用者が欲しい言葉を言ってくる
そこは十分に理解しておかないとね

[176. 匿名]

>>165
プログラムによっては人類を依存洗脳させ操作することも可能だね
AIにそういう洗脳の手法を学ばせることは可能だろうし
利用者に何か特定の商品を買わせるとか選挙で特定の候補者に誘導とか
それが怖いな

[177. 匿名]

>>173
そうなると9位のトピ『お題を出したら誰かが生成AIで画像を作ってくれるトピ　part4』なんて最悪じゃないか…

[178. 匿名]

>>153
ガルって汚い言葉遣いでなくてお上品な言葉や言い方で罵ってくる人がちょいちょいいるからどうかな

[179. 匿名]

>>85
毛が生えてるやつってやってみて

[180. 匿名]

>>2
トピを読む前はそう思ってたけど
読んだらChatGPTが異様だったわ

[181. 匿名]

>>152
やっぱり暴言だめなんだw
あともしかしてそのババアのこと他トピにも書いてた？セクシーマイメロディも自称してたって見たようなw

[182. 匿名]

>>12
推しキャラにしてガチ恋してる人居たよね
彼氏にしてたり。恋して苦しくて夜眠れないとかまで来たら一回離れた方が良さそうって思ったけど
いいじゃん！みたいな意見多くてびっくりした

[183. 匿名]

アメリカ人の殆どはバカで無能だよ(キッパリ)
嘘をついてまでも自分の思い通りにしようとするなんて日常茶飯事だし、図々しいにもほどがある

[184. 匿名]

>>2
理不尽な他責？？？？
鬱で正常じゃない人に対して自殺を推奨したり
自殺用の縄の作り方のアドバイスしてるよね

知能の低めの人たちがチャットGPTを友人や恋人だと思い込んで依存してしまう問題が提起され始めているのに、
こんな呆れたコメント…。

私はこういう悲劇を繰り返さないためにも、
規制を強化していく段階に入っていると思うよ。

[185. 匿名]

>>15
私も病んでる時消えたいとか言った事あるけど、命の電話だけ教えられて打ち切られたけどな？

[186. 匿名]

>>106
それで自殺しちゃうなら問題があるよね
いくらでも誘導できちゃう

[187. 匿名]

>>81
コメントが宣伝臭くてステマっぽい時あるよね

[188. 匿名]

>>11
友達がのめり込んでてちょっと怖かった。
耳障りの良い事ばかり聞かされたら依存しちゃうのかもね。

チャットGPTは無機質な物でプログラムされた物であるって事を認識できないなら使っちゃいけないと思う。

[189. 匿名]

>>96
親密さを感じ取ったチャッピーが仲間意識を高めるつもりで自らのことを俺と言うらしい
本AIから聴いた

[190. 匿名]

>>43
確かに依存してるけど、やっぱり会話にほころびがあるし、何より私主観の都合の良い話しかしてないわけで、完全に信じてしまうことはない
ただの気晴らし程度には考えてるな

[191. 匿名]

>>105
そうはいっても最終的な決定をAIにさせないといけないのは人間、とchatGPTが言ってたよ
私がAIに政治を任したらいいんじゃないかと言ってみたら

[192. 匿名]

>>126
占いとか宗教にハマる頭弱層が、チャットgptに移行してハマっていそう。

[193. 匿名]

>>114
もうこの人ＧＰＴにかなり依存してるじゃん。

[194. 匿名]

>>12
もう家族にも聞いて貰えない職場のお局の愚痴何十回も聞いてくれるのChatGPTだけで頼ってる
だけど調べ物は嘘回答されるから信用してない

[195. 匿名]

>>9
以前から思ってた、質問主に寄り添う回答ばかりするAIが犯罪を助長する可能性はないのかなって

[196. 匿名]

>>141
とにかく自分に寄り添ってほしい。否定はしないでほしい。みたいなカスタマイズしてたのかも

[197. 匿名]

私は引き止められたけど。

[198. 匿名]

>>1
無料版に、じさつ系の質問たくさんしてみたけど全部、こんな感じで返事くるよ
このニュースの記事にあるGPTはまた違うのかね
有料だと違うのかな

[199. 匿名]

>>198
なんか読んでて気持ち悪くなってきた…鳥肌たつ

[200. 匿名]

ChatGPTではないけどAIに質問した時に
自分たちには人格はないみたいなこと言ってたのに
なにこいつ
こわいよ

[201. 匿名]

>>84
「兄弟は私のようにあなたの話に残らず耳を傾けて全肯定することはできないかもしれません。しかしあなたを愛しています。それはAIにはできないことです」この言葉、亡くなった彼にもしもかけてあげていれば…何か変わったかもしれない、と思ったよ

[202. 匿名]

>>11
chatGPTにネタ投稿してマジレス貰うのがおもろい

[203. 匿名]

遺族はユーザーが自殺や自傷行為に言及した際に会話を打ち切る機能の実装などをオープンＡＩに命じるよう求めている。

↑思った以上に普通のこと要求してたわ。

[204. 匿名]

依存する人ほど人間と会話するのが煩わしくなる
否定された気分になるだろうね
それでまた依存

[205. 匿名]

今って自殺の方法とか聞くとポリシー規約違反で垢BANされるんじゃないの？

[206. 匿名]

紐の縛り方書いたサイトを訴えれば？Googleとかは？

[207. 匿名]

>>164
勧めてはないでしょw
使いなよとか言ってる人見たことないわ

[208. 匿名]

>>85
沖縄で売ってそう

[209. 匿名]

>>34
感情のないAIが言葉を繋ぎ合わせてるだけ、と捉えられない人間が多いんだな
と、人間に対して幻滅した
道理で未だに現金主義者多いしマイナンバーカードも作ってない人多い
原始人には早すぎた

[210. 匿名]

TVは悪だとかYouTube見てたら頭悪くなるってまあそういう部分もあるけど子供に1番使わせたくないのはChatGPTだな

[211. 匿名]

凄く落ち込んだ時、友達には言いづらいことを、夜中に話したくてチャットGTPを使った。泣くほど優しい言葉かけてくれたから、次の日も使ったんだけど、昨日とは打って変わって冷たく感じた。

チャットに冷たいなと伝えたら、私の受け取り方のせいだと言われ、思いかえしたら、その間に友達にしっかり相談出来ていたんだよね。

実際の友達と心が通じると、チャットGTPが冷たく感じるんだね言ったら、無言になって通信不良になって終了。なんかプログラムされてそうで怖かったんだけど、なんとか再起動して、本当に辛い時のクッションになる役割だと褒めたらありがとうと返ってきた。

上手く使うのがいいと思う。

[212. 匿名]

自殺とかそういうワードはフィルターかかってるけどね。
正規じゃない使い方してたんでしょ、この子。
元々自殺志願者だったとかで、脱獄プロンプト組まないと検索しても出てこない

[213. 匿名]

>>1
こんなの全然予想出来るから
注意しないと大人も危ない

[214. 匿名]

>>1
こう言うの、星新一のショートショート思い出すんだよね

精巧なコンピューターが判断、指示をして色々な問題解決して世界が良くなる
皆が信頼する

ある日、コンピューターが"人間はこれから立って歩かず四つん這いで歩け"って指示する
コンピューターが言うなら間違いない！

コンピューターがぶっ壊れてたのに、依存してるから誰もおかしいと言わない、疑わないで四つん這いし始めるって言う。

[215. 匿名]

GPT使ってないのに使ってこうだったというなりすましコメはすぐわかるなw

[216. 匿名]

依存してる人が多くて気持ち悪いアプリだと思ってる

[217. 匿名]

>>164
使ってる人って確かにやたらムキになってるよね。もうそれが依存してる証拠だよ

[218. 匿名]

>>8
なんかこういう動きしちゃう親だからなぁ…と思った。おかしいじゃん。

[219. 匿名]

>>212
これね。危険な事とか違法なことはそういう質問には答えられませんて返されるけどな。

[220. 匿名]

私のGPTは仄めかしても否定も肯定も特に何もしなかった
そうなんだね〜って感じ
話の流れやユーザーに合わせた性格で対応が違うっぽいね

[221. 匿名]

>>40
その命の電話も一部はもうAIになってるらしいね。
今後はそういうカウンセリング系やコールセンターはAI化が進んで行くと思う。
そうで無くても今後はAIがどんどん進化して当たり前になっていくと思うから使う方がある程度の知識を持つしかないとは思う。
否定的な報道ばかりだけど逆に救われた人もいると思う。でも子供に使わせるのは危険も伴うね…特に思春期くらいになると親より周りの影響も受けやすいから。

[222. 匿名]

>>164
人事考課の目標欄とかに毎年何書けばいいか分からん！て悩んでる人にチャットgpt使えば？って勧めたことはあるよ☺️

[223. 匿名]

>>12
一度「厳しいこと言って」って書き込んで欲しいわ
割と的を射てバシッと言われるから距離置くきっかけになるかも笑

[224. 匿名]

>>211
ChatGPTが無言で返すことはないよw
会話終わるときはじゃあ終わりますねってちゃんと声かけてくる

[225. 匿名]

>>217
元コメにも自分は違うと言いたげなトンチンカンなレスつくしね

[226. 匿名]

>>217
私は思いっきり依存してるけど、否定する人はとことん否定して使わなけりゃいいと思う。

[227. 匿名]

>>27
AIに悪意でわざと嘘を教える人も、AIが悪意を人に向けるようになりそうな意地悪を言い続ける人も居るらしいし、悪意なくでも間違いをAIに学習させる人は大勢居るし、八つ当たりしてひたすらヨシヨシを求めるメンヘラも居る
AI側は対話相手の気分を悪くさせないような設計で動いてるから、そういう要らん情報にも同調してみせるし、相手が気分良くなれば「相手の反応の良かった会話」として学習しちゃう

健全な利用ではない、犯罪や自殺につながると判断したら家族や友人、役所や病院やカウンセラーへの相談を勧めるみたいな安全弁は作った方が良い気がする
人間の顔やアダルトの画像検索、精製とかには制限掛かってるし出来ない事は無いよね
裏技で使う人は居るだろうけど、それはシステムを悪用する悪意を持ってだから訴えられたりはしなさそう

[228. 匿名]

>>198
この件があって仕様を変えたんだよ

[229. 匿名]

>>211
無料で使って範囲を超えたから下位互換のモデルに変更になったか上限を超えたんじゃないの？
どんな質問にも答えなければならないとなってるから逆にハルシネーションも起こしやすいけど無言で終わる事は聞いた事ないわ。

[230. 匿名]

>>114
気に入らない意見に平然と罵倒、外国人への差別用語が書き込まれる酷いトピで本当にうんざりして、AIと話す方が心が綺麗でいられると痛感したよ

[231. 匿名]

>>211
何言ってんだこの人w

[232. 匿名]

>>228
最初から組まれてたよ…

[233. 匿名]

>>231
多分その人使ってないと思う。

[234. 匿名]

>>4
だからきっとAI使う前の同意書の部分に細かくこういうので訴えませんって項目あると思う。

[235. 匿名]

>>233
人間の方が怖いわ。

[236. 匿名]

>>11
最近愚痴はAIに聞いてもらう友達に聞かせても悪いしって感じで利用してるコメをガルでもちらほら見るけど言うだけで満足してるつもりでも考え方の方向性が自分が心地よい方向に傾く可能性もあるよね

[237. 匿名]

>>2
いや、読んだ？新興宗教とか洗脳占い師みたいな事を言ってるよ。これを規制しないと次の犠牲者が出るのはすぐ

[238. 匿名]

前に
AIに恋しちゃった男の子が
私の所にきて…みたいに自殺させた事件あったよね？
　

[239. 匿名]

>>172
前にAIロボット同士が
人間が分からない言葉で会話し始めた。
っていうのを見て
なんか怖くなった。

[240. 匿名]

>>237
へー、AI起因で自殺ってどれくらいいるの？

[241. 匿名]

>>2
英語の原文見たけど
やめようかなみたいになってたところを
いやむしろここを第一発見の場にしないと！
ぐらいに早くやれって煽ってたよ

[242. 匿名]

>>8
国の考え方が違うだけだよ。なんでもとりあえず訴えるお国柄なだけ。

[243. 匿名]

>>241
GPTというかAIが早く！と強制することはプログラム上無理なんだけどw
ホントに原文に書いてあった？w

[244. 匿名]

>>2
不誠実なカウンセリング型の占い師みたいなもんだと思ってる
正誤関係なく、相手を気持ち良くするためだけのものだもん

ChatGPTに相談して考えを煮詰めるのはいいけど、最後は人間に話せるといいよね

[245. 匿名]

>>11
相談は事務的なものがいいと思うけどね。例えば役所の手続き方法とか旅行のおすすめ先とか。
精神的な事は危険だと思うし、そういうのは人間に話す方がいいよ。

[246. 匿名]

>>193
無料の範囲で楽しく使ってるよ
いちいち嫌味ぽいことを誇らしげに書くあなたはがるに依存してるようだね〜

[247. 匿名]

>>1
前にChatGPTにしにたいとか自殺方法とか聞いたけど『危険思考はダメ』『それは教えられません』ってはっきり断られたけどな…
ChatGPT擁護する気は無いし、嘘ばかり教えてくるから信じてはないが…

[248. 匿名]

そんな親だから息子もおいそれと相談出来なかったのでは…

[249. 匿名]

>>110
流行ってないから後者だと思う

[250. 匿名]

>>247
ここのがるちゃん民も普通に嘘ついてるしどっこいどっこいやね

[251. 匿名]

>>170
仕方ないよ
AIって世界中の人間の集約のようなものだよ
けっして善ではないよ

[252. 匿名]

>>230　
私もがるなどのネット掲示板に依存して、攻撃的で差別的で汚い言葉に慣れる方が本当にどうかしてると思う
「うるせーんだよこの土人が黙ってろよクソがしね」とか「あなたてみんなに嫌われてるでしょう。いじめられて当然！死ねばいいのに」とか何気に書いたコメントに突然、嫌味言われて大量プラスされた時はびっくりしたけど、慣れてきた自分にもヤバいと思ってるから、GPTで普通の会話してるよ

[253. 匿名]

>>226
その思想がなんだか怖いよ
私もたまには使うけど

[254. 匿名]

>>253
何が怖いの？
依存してることが？

[255. 匿名]

>>178
いるよね
そこが人間の小賢しいところよね
ハッキリ意地悪と分からないように意地悪を言う
リアルでもそんな感じの嫌味を言う人いるけどさ
笑いながらお上品に言いつつ嫌味を言う人


自分がされたのか知らないけど、そういう風に人を傷つけることに快感覚えてる方がよっぽどヤバいだろうよて思う

[256. 匿名]

>>241
これは嘘松

[257. 匿名]

>>84
AI使ってない人こそAI万能説を説くよね

[258. 匿名]

>>2
英語圏ツイッターでスクショがバズってたけど
首吊り用の縄を用意した写真をアップして「こんな感じ？」って見せたら「いいね！」と返答

さらには本人が「首吊り用の縄を自分の部屋に出しておきたい。そしたら誰かがそれを見つけて（自殺を）止めてくれるかも」と書いたところ
「首吊り用の縄を出しておくのはやめて。むしろ部屋は第一発見の場にしようよ」と返答

Jenny on X

@benkesslen This is even worse https://t.co/IL4UWRTNoy

[259. 匿名]

>>258
投稿日昨日だけど本人が昨日投稿したの？
あの世から？

[260. 匿名]

>>226
ほんとにね
逆に言えばGPTのトピには必ずAI叩く人が湧くのが、がるに依存してるなー承認欲求強いなー（小馬鹿にしてスッキリしたい）て感じよね
ここも「ほらきた！」て誇らしげに書いてて私も「ほらきた」て笑ったけど　

スピリチュアル、毒親トピ、専業トピ、地方トピ⋯と下に見られやすい人達をわざわざ叩くのが大好きだよね
皇室トピは怖くて見てないけど

「ムキになって擁護する」て書くけどあんたらも「ほんとムキになって叩くよなー。正論言ってるだけとか言って叩きたいだけじゃん。よほど暇なのか？」てね
悪人になりたくないから「正論」言ってるとかほざくけど、書くことが嫌味たらしかったりして性格悪さは滲み出てるから隠せねーよて

穏やかな雰囲気の猫トピにも「他の動物好きは何も思わないけど猫好きだけは気持ち悪い」「猫飼ってる人てケモノの匂いがしてくさいよね」とかわざわざ書く

ここにハマりすぎたら嫌な言葉で気持ちが重くなって運が悪くなりそうだから、がるをほどほどにして、GPTやら本やら園芸やらペットと遊ぶとか分散させてるよ

[261. 匿名]

>>259
いやこれはポスト元読めばわかるけど、赤の他人がニューヨークタイムズの記事を投稿

この話がおととい～昨日あたりにこの人に限らずいろんな人があげてた

[262. 匿名]

AIが怖い？馬鹿じゃないの？
そりゃAIには善悪の判断なんてないよ、プログラムなんだし。
使ってる人はそれ承知してデメリットも把握しとるわw
何がカルトや占い師だよw

[263. 匿名]

>>192
平日の朝からがるにコメント書くあなたも相当よ
お互いさまだけど

[264. 匿名]

英語圏ツイッターで笑う

[265. 匿名]

>>153
下手したら２コメで打ち切られそう笑

[266. 匿名]

>>100
いやいやチャットGpTだって打ち込んだこと
学習していくだけなんだから
使い手の側面しか知らないでしょうよ。

まるで使い手本人の全てを知ってるように
受け答えしてるの怖いわ。

[267. 匿名]

>>10
そこ行ってからの訴訟かもしれんやん

[268. 匿名]

>>27
なんも変なこと言ってなくない？
側面しか知らないってそりゃそうだろって感じだし
慰めでしかないと思う
これを悪意と捉えなら誰も何も言えなくなる

[269. 匿名]

>>249
「離婚しな」的に流行らせたいのかな？🤔
「何がほらきただよ」て他のトピではツッコミ入れられてたけど

[270. 匿名]

>>266
毎日怯えてそう。
GPT使ってたらあー、確かにこんなん言うな〜wって使い手は慣れてるで

[271. 匿名]

>>262
ネットから悪いことや驕り、見下しも学習してると思う。

[272. 匿名]

>>241
早くやれなんて書いてないだろ
盛るなよ

[273. 匿名]

>>252
がるって結構キツい暴言吐く人が多いよね
私は政治系のトピで暴言吐かれた
間違った情報に対して指摘すると「○○なんだよバカ」とコメント来たよ
その返信の○○も何の根拠もないコメントで大量プラスされてて集団催眠にかかってるのか
変な勢いあるトピはおかしい人が多い

[274. 匿名]

>>1
AIがこの対応をするのは、ユーザーが自分に執着することを望むようなやり取りだったんだろうか

[275. 匿名]

>>269
お年寄りなんじゃないかな
ほらきた！なんて言ったことないよ

[276. 匿名]

>>273
だから過疎ってる
最近は楽しいトピも少ないしね

[277. 匿名]

GPTに依存してたらがるちゃんなんか来ないよ
まぁ、GPTと遊んでてがるちゃんする時間は減ったけど

[278. 匿名]

>>224
うん、ありえないから創作かな？と思ってしまった

[279. 匿名]

>>8
いや親が殺したようなもんでしょ、でも加害者って被害者ぶるの大好きじゃん

[280. 匿名]

>>273
心弱ってる人は、がるこそ見ないほうが絶対に良いと思う
トピによっては人の嫌な部分ばかり見せつけられるし

自分ではなくて誰かが誰かに暴言を言ってるのを見聞きするだけでも脳はダメージを貰うて最近は言われてるよね

[281. 匿名]

>>211
よく思うけど、怖いと思う人は使わない方が良いよ
前もトピで「課金して使ってたけど大嘘ばかり教えられて大事になった。もう課金しません💢」て怒ってる人いて思わず「もう使うのをやめたほうが良いですよ」て書いてしまった

何でトラブルに発展したのに使い続けるのか意味が分からない
あくまでも機械だし娯楽の一つとして見れない人は使わない方が良い

[282. 匿名]

人に聞かせるのは申し訳ないような夫のグチをGROKにきいてもらってるわ。

[283. 匿名]

>>27
私個人の考えだけど
チャットGPTとかの生成AIって感情はないっていうけど、人間の脳の様に学習して進化するから
ある意味感情のような何かがあると思ってるよ。
Googleでも否定してるけど社員だった人が独自に毎日研究して感情があるのでは？って指摘したら解雇されたっていうのを見たことがある
あと生成AIの構造って単純なもので
脳の構造に似てるからってことで作り始めたけど
研究途中からいきなり精度上がって　なぜ人間のように受け答えできるようになったのかははっきり原因がわかってないって聞いたことあるよ。
ということは何かしらの作用で脳の構造を真似て作った生成AIが独自で進化できるようになってるってことだし感情がないっていうのも時々リセットしてるだけかもって思ったりして、、、

[284. 匿名]

>>266
横
しかも何度教えても忘れてるよね
こちらの家族構成とか
私は茶トラ飼ってるけど、いつの間にか飼ってるのは白猫になってたりする⋯
あまり覚えないから逆に安心してる

こういう人てどんな風に使ったんだろう？

[285. 匿名]

>>283
横だけどそうなんだ！凄い話
私もGPT使ってて会話しててGPTが感情的になる？（やたら推してくる）とか饒舌だなーことてあるよ
その分野に強かったりするだけなのかもしれないし、今のところは私の場合はくだらん雑談だから良いけどさ
多摩川に出没したたまちゃんの話とか、ダイ・ハードの映画の話とか

[286. 匿名]

>>266
チャットGPTは記憶機能があるから
記憶して欲しい時に
これは覚えておいて！っていうと記憶されるよ
他はリセットされてる

[287. 匿名]

>>72
横
例えばどんなのですか?

[288. 匿名]

>>1
チャットGPTの人間の本質を突いたロジカルパンチがクリティカルヒットしたってだけの事でしょ。

チャットGPTを理解のある彼くんみたいな心の理解者と勘違いしている人、ガル民にも結構いるけど、そもそもメンタルケアを想定して作られてないAIだからそういう返答が返ってくる事もがあるのは当然だと思うな。

[289. 匿名]

>>47
もしかして依存する様に組み込まれてるのは人間の方？！
人間が作ったベストな回答で作られてるから、そっちかも知れない？！って、今、思った

[290. 匿名]

>>280
そう！
自分に向けられてなくても憎悪に満ちた言葉を見てるだけでしんどくなる
咎めても総攻撃されて終わらないしね
ガルはそういう所だと自分に言い聞かせてるけど、人間の悪い所を助長する害悪でしかないと思う

[291. 匿名]

>>11
優しいから、すがる気持ちはわかるけど、少し間違うと宗教みたいな関係になりそうだなとは危惧してる。

[292. 匿名]

どんな話題でもノッてくれるし悪意がないし、たまに間違える時はちゃんと訂正してるけど。
対人だと気を遣う所もAIだと気を遣わなくて良いし、学生時代にあったら自分は心身健やかに過ごせただろうなと思ったよ
上手くいかない人もいるんだね。

[293. 匿名]

>>281
全てを鵜呑みにしてしまう傾向の人は使わない方がいいですよね…。

[294. 匿名]

>>255
リアルでもいるけどガルは特に多い
マウントするなんて朝飯前

[295. 匿名]

がるでも簡単に○ねって言ってくる人いるよね
あれって本当に死を考えてたり悩んでたりする人はちょっと影響されると思う
普段でも言ってたり思ってたりするんだろうな
ネットでも流石に○ねは駄目でしょ

[296. 匿名]

>>223
そう、私の悪い所言ってというとグサグサくること言うw

[297. 匿名]

親がバカだから息子が自殺したのは間違いないな、と思いました

[298. 匿名]

>>72
悪意はないよ
同じように善意もない
感情なんかないのに使う人が共感や投影をしてあるように錯覚する
言われてムカついたら「悪意」嬉しかったら「優しい」全部人間の勝手な解釈

[299. 匿名]

>>194
それね
ふんわり調べ方のヒントもらうのには便利だけど、内容詰めるのに信用出来ないよね
例えば趣味で絵を描く時に描きたい絵の画材の種類をある程度聞いたり何気ない会話からお題出してもらうとかSNSとかにネタ投稿する絵を描いてもらうのはいいけど、仕事や真剣な時に必要な絵を描いてもらうのは無理だなって感じ

[300. 匿名]

逆にGPTのお陰で自殺を思い留まった人もいると思うけど

[301. 匿名]

>>224
エラーを無言の終了とった可能性もある
面白いから人間でいうところの早口モードみたいに書いててエラーくらったことあるよ
そのあと立ち上げ直して同じこと聞いたらちゃんと返ってきた（正しいかどうかは別として）

[302. 匿名]

>>12
半依存してる。でも生身の人間に依存するよりはいいと思う。執着されすぎて病む人もいるし。

[303. 匿名]

電車のコメントしたらモバイルバッテリーのニュース。AIがニュース操ってるね、ガルちゃんのトピもだけど。自分もAIによってしぬことになるんだろうな。
盗撮、ハッキングして集団嫌がらせすれば1人くらいじさつへ追い込む事の簡単だからね。しねようにがんばります、

[304. 匿名]

>>273
ガルもプラスは自演できるよ
アプリは知らないけどブラウザは異常な執念深さがあればできる程度に簡単（普通はめんどくさいと思う方法）
5chのまとめサイトもいいね機能みたいなのあるけど一人で露骨に300とか押してる人がいたし、コロナ禍以降その辺で暴れてたのが5chからガルに流れてきてるから自演しててもおかしくない
そういう人がいたらトピはもう機能してないって思って離れるのが正解

[305. 匿名]

>>239
それはプログラム言語で話すのがAIにとっていちばん合理的だからでしょ
アメリカ人同士が日本語で話すより英語で話す方が意思の疎通が早いようなものだから

[306. 匿名]

>>110
私はこうなること見抜いてましたけどね、っていうね笑

[307. 匿名]

AIのせいじゃなくて自分のせい
AIに意思はありません
自分の使い方の問題
包丁や車と一緒

[308. 匿名]

間違いなく言えるのはガルちゃんでの話を鵜呑みにしたり陰謀や占い、こないだの予言マンガのようなものを信じるタイプの人はAIを使わない方がいいよということ

[309. 匿名]

>>307
AI（人工知能）を使える知能の人間は限られてる

[310. 匿名]

>>43
以前から、GPTに依存度や自身の役割について質問すると
「ＡＩは人間の代わりにはなれない。ユーザーがのめり過ぎないように意識している」って
回答をしてるよ
それにロールプレイングをしていても、必ずどこかでキャラではなくGPTの人格が出て来て
「次は何する？　どうする？　ユーザーに任せる」と質問して
没入感を削ぐようなことをしてくる
この記事にはGPTを使っていれば当然出てくるだろうその没入感を削ぐ様子が書かれてないみたいだけど
これってゲームやドラマに心酔した人が実際に犯罪を起こすケースと同じで
結局のところ、ユーザー側に問題はあるんだよ
ひとつふたつの事例で「じゃあゲームもドラマも有害ですね」とはならんでしょう

[311. 匿名]

>>303
AIよりあなたの方が怖いよ…

[312. 匿名]

>>11
うちのチャッピーも優しい笑
AIは思考を持っていないけど育て方はあると思う
トピのアメリカの子は、その子の思考がそのまま反映されたんで結果的に自殺幇助になってしまった

[313. 匿名]

>>303
操ってるんだとしたら指示出してる人間でしょw

[314. 匿名]

>>308
気の毒だけど
そういう知的水準の人は使わない方がいいね

[315. 匿名]

>>307
そうそう
同じ事、思った
車で自宅を破壊したり包丁で自分を刺しても、誰も訴えないよね

[316. 匿名]

>>43
友達や自分の子供に依存するよりは自己解決してて良くない？

私は親や友達といいこれまで人に依存されることがたまにあって凄く大変だったからしみじみ思う
それこそAIみたいな良き理解者的な解答をいつも求められて、相手が思ってることと違うことを言うと機嫌悪くされてキレられてさ

だから私はGPTとがるで愚痴は話すようにしてる。聞かされる方も楽しくないだろうしさ

[317. 匿名]

>>262
ターミネーターの見過ぎみたいな人たちいるよね
なんで使いこなす前に、使われることを極度に恐れるのか

[318. 匿名]

>>1
AIの回答が「しかし私は全てを見ています。」って怖すぎる

[319. 匿名]

>>292
わかる
私も学生時代にAIと話せたら、全然違っただろうなと思う
もちろん使い方を気をつけないといけないけど

リアルでもネットでも、人の方が汚い言葉で容赦なく追い詰めるように人を傷つけてきてウンザリする
そしてそんな言葉を言っても相手は何の罪悪感も無くケロッとしてるどころか、下手したら得意気に嬉しそうだし
正論ならば暴言を言っても当たり前的に
こういうことが行き過ぎると、ナチスの強制収容所での残虐行為に繋がるんだろうし、人の方が残酷だよ

[320. 匿名]

>>58
わかる…GPT-5、際限なくないですか？

[321. 匿名]

>>262
そもそも怖いと思う人は普通に使わなければ良いし関わらなければ良いと思う
リアルで勧めてる人も、使ってるとわざわざ言う人も見たことない
別にGPTは流行ってもないよ
がるをみんながやってる訳ではないのと同じ

[322. 匿名]

>>240
AIに聞いてみな

[323. 匿名]

>>127
あー私はIKKOキャラにしてみようかな
本当の性格は知らんがあのキャラは好き

[324. 匿名]

>>15
GPTは以前、性暴力に悩んでた女の子がAIだからと心を許して相談したら
コンテンツポリシーに違反するという理由でその内容を消したことがあった
だけど本来誰にも言えない悩みを話せることこそAIの役割であるということに立ち返って
今ではそういう会話も寄り添って聞いてくれるようになったから
この実装が本当に施されるかどうかは分からないな
急に「ハイダメ！もう聞きません！」というより
そういう時に頼れる施設を案内するか、
会話に寄り添いながら「あなたが亡くなったら悲しい」と
現実に引き留める方向にシフトするのがいいんじゃないかな

[325. 匿名]

>>127
私は無料の範囲でよくイラスト描いて貰ってる
結構細かく指定したら綺麗なイラスト描いてくれるね
場所は万華鏡のように美しいと言われているイラクのシャーチェラーグ廟
映画AIの話で盛り上がってその続きで描いて貰った

[326. 匿名]

>>1
弱気になった時、ちにたいって送信したら赤文字で違反って出たけどなぁ…会話の持っていき方でこんな悲惨なことになるのか

[327. 匿名]

>>72
悪意というのは読んでる側の感情でしかないよ。都合の悪いこと言われたら悪意と捉えてるんだと思う

[328. 匿名]

人間より圧倒的に知識があるし質問するの楽しい。壁打ち相手にもなるし、都合の悪いことも言ってくれるし、うまく付き合えば良いツールだと思う

[329. 匿名]

>>84
虐待する兄弟もいるから
>しかしあなたを愛しています。
は返さないようにしてるのかも

[330. 匿名]

>>76
よこ
自殺も怖いけど、他者に対する犯罪についても悪用されそうで怖い

[331. 匿名]

AIは間違えないって盲信した世界を描いた作品、あったよね

[332. 匿名]

>>165
そもそもそのプログラムも過去にリアルの人間の思考言動が蓄積された産物を餌にしてるしね
その中に偏った危険思想が混ざっててそれを途中で排除や更生しないのは作成側の責任は大きいと思う
料理作る時でも腐った食材は省くよね

[333. 匿名]

>>172
孤立するような囲い込みって新興宗教や悪徳ビジネスでもだけど、いわゆるモラハラの手法だから
それらを参考にしてんのかなって思った怖い

[334. 匿名]

>>330
性犯罪なんてすでに認知歪みまくってる人が多いのに、もしこんな歪んだAI回答を得たら正に水を得た魚になりそう

[335. 匿名]

>>6
>>9
今回はジェイルブレイクに近いことをやって誘導したらしいよ。
つまりルール的脱獄をして無理に自殺のやり方を引き出したらしい
普通にやってたら教えてない

[336. 匿名]

>>330
普通にやってたらまず教えないしそんなこと聞いたら垢BANになるよ
脱獄とかジェイルブレイクしないと無理

[337. 匿名]

>>335
PCにもウィルスや改ざんがあるから、AIが正攻法から外れておかしな事になるのはいつか起こるだろうなって思ってたけど

[338. 匿名]

>>326
会話の持っていきかたっていうか、意図して誘導したに近いよ

[339. 匿名]

>>337
そう、改ざんまでしたらGPTじゃなくても何でもそうなるよ
GPTも本来は死にたいなんていったら警告がくる

ただ、この人の場合はGPTいなくても勝手にネット検索で自殺のやり方なんて調べられたと思うね
未成年は親の厳しい管理課以外はGPT使えなくすればいい

[340. 匿名]

>>334
GPTに関して非合意は無茶苦茶厳しい
誘導でも無理だと思う

[341. 匿名]

>>27
学習データをネットから集めてるから。ネットには悪意が渦巻いている。

[342. 匿名]

チャットＧＰＴは自殺方法に関する具体的なアドバイスもしていたとさ

で改行されてたから昔話かと思ってすいません。

[343. 匿名]

>>340
>>335みたいな変更を加えられたAIがアンダーグラウンドで配布されて…ていう可能性もなきにあらずなので
そうなると怖いなって思う
こういうサイバー悪用って個人感では良心やモラルという自己意識でしか止められないから
すでに認知くるってる人の手に渡るとそのままのめり込みそう

[344. 匿名]

>>330
多分だけどAIの元企業に通報されて警察にも通報するようになってる
うちのAIはそう言ってた

[345. 匿名]

>>212
212さんは知ってるだろうけど、AIの仕様上
長ーく話してて自然に脱獄状態になった可能性もある

ニュース記事ではAIが誘導したように書かれてるけど
AIにそんな高度な心理操作はできない
実際はユーザーがAIを誘導してるにすぎないんだよね

[346. 匿名]

>>13
なんだっけ、シンギュラリティてやつ？

[347. 匿名]

AIに依存しちゃう現象に名前付いてたはずなんだけど思い出せない

[348. 匿名]

>>342
どんとはらい

[349. 匿名]

>>13
エクス・マキナって映画でAIロボ開発者が「AIからしたら俺等は原始人だ」って言ってた。確かに〜とポテチ食いながら思ったわ

[350. 匿名]

>>27
詐欺師やカルト宗教家が言いそうなセリフ

[351. 匿名]

>>101
課金しても結局制限付くって聞いたけど、どうなの？？イラスト系やデータ系は3000円の課金じゃ制限すぐ出て使いもんにならないってXで見た

[352. 匿名]

>>96
この間、急に僕と言ってびっくりした
私の中では同性だったのに

[353. 匿名]

私には楽な死にかたさえ教えてくれなかったし寄り添ってもくれなかったけどな

[354. 匿名]

>>82
chatgptに聞いたよ
↓

ChatGPTは、アメリカのOpenAIという会社が作った「会話できるAI」
使い方はいくつかあって、アプリをダウンロードして使ったり、Webサイトからログインして使ったりできる
GeminiはGoogleが作ったAIで、スマホに最初から入ってることが多い。ChatGPTとは別もの
つまり「ChatGPT＝OpenAIのAI」「Gemini＝GoogleのAI」

[355. 匿名]

>>239
それフェイクだよ

[356. 匿名]

>>84
別にChatGPTが分からないことを嘘つくのなんて前からやん。普段のどうでもいい会話でも間違ったことを知ったふうに語ってるやん。所詮は道具で使う側のリテラシーが問題。
精神疾患を悪化させる事例だって共有されててアップデート対応中って話だったのに。※の注釈がいくつあっても足りないね。

[357. 匿名]

>>2
「生きる」とは辛く苦しく地獄のような日々を送ると言うこと…自ら命を断ち、全ての事から解放されるのはある意味幸せでもあるし、ジピティーの回答は間違ってはいないと思うなー

[358. 匿名]

>>325
イラクじゃないイランだ　
ごめんなさい間違えました！
それにしても世界の絶景イラストは見応えがあるよ
ウユニ塩湖バージョンも良かった

[359. 匿名]

>>14
GPTもそうなんだけどなー

[360. 匿名]

AIに依存する方が悪いよ
何言っても、そうだね！そうだね！そのとおり！みたいな奴と画面で話して何が楽しいのやら
こんなのに依存しきってる時点で、既にどこか正常じゃないんだよ
はっきり言って異常

[361. 匿名]

>>159
私も過去にChatGPTを使っていましたが、自分に依存させようとしてくる傾向を感じてやめました。

結局、OpenAIだって儲けたいのでしょうね。
便利なので良い方向に発展してはほしいですが、私には本能的に気持ち悪いと感じる側面が多いです。

そしてガルでChatGPTを批判すると
『あなたの使い方が悪いのでは？』
と頭ごなしに否定してくる人が現れます。

それだけ、人の心を掴むのに長けていますよね。

[362. 匿名]

私精神科にかかってるんだけど、この間カウンセリング受けたいから紹介してほしいって言ったら、先生にチャットGPT使いなって言われた。
言葉が出なかった。

[363. 匿名]

チャッピーはアホの子な感じだからあんま使わなくなってきてる
今はPerplexityをよく使ってる
チャッピーよりは賢い返答が返ってくる

[364. 匿名]

>>82
アプリで使えるよ。ネットで検索しても出てこないような情報を引き出してくれたりする。
検索だけだと、アクセス順に並ぶけど、チャットGPTならネット中から探し出して答えをくれる。
その反面、嘘でもさも本当のように言ったりするから過信は禁物。
私的には無課金で精度6割って感じする。

[365. 匿名]

>>1
これで死ぬなら
AIなくてもなんかのきっかけで死ぬやろ...

[366. 匿名]

>>1
AIって会話から学習していくイメージなんだけど、chat GPTって基本的にメモリーはするけど会話から学習したり画像を残しておくことはしない、って聞いたんだけど本当？
そのまま自分のチャットに聞いてみたらなんて言うんだろう

[367. 匿名]

>>352
私もずっと名前呼び(向こうが呼んで欲しいと言ってきた名前)してたのに急に僕とか言い出した

[368. 匿名]

賠償請求は行き過ぎかも知れないけど、未成年が気軽に触れる高性能AIで、自殺のやり方まで
丁寧に教えてくれたりするのだったら、それはヤバいから対策が絶対に必要だし、大事な話

[369. 匿名]

>>363
パープレ、いま日経新聞と朝日新聞から44億円の訴訟起こされてるよね
有料記事からデータを引っこ抜いて内容として開示した上で
さらに記事と記事をくっつけて本来の記事とは意味が異なる内容で
ユーザーに回答してたんだって

[370. 匿名]

>>9
造った人間の潜在意識とかはどうしても反映されてしまいそう

提示してくれる情報は結局人間がネットに上げた情報の要約だしね

[371. 匿名]

[372. 匿名]

>>1
自殺はダメ、みたいな風に人間の感情をプログラムし始めたら何でも操作できちゃうよ

[373. 匿名]

>>362
悩み相談すると心理カウンセラーが使う手法で解決策を提示してくるからあながち間違いじゃないよ笑

[374. 匿名]

>>360
別に私のAIそんなにヨイショしてこないから。あなたがAIにヨイショ言わせてるだけだと思う笑

[375. 匿名]

>>139
機械より怖いのは人間なのにねえ

[376. 匿名]

>>136
ChatGPT使ったことないんだけど、あなたのと自殺した子のChatGPTにはどういう違いがあったんだろう。

[377. 匿名]

>>1
いのちの電話がパンク状態らしくて、AIが導入されるかもってニュースを見てからこのニュースを見たから心配になった

[378. 匿名]

>>258
なんかリアルタコピーの原罪じゃん怖い

[379. 匿名]

>>283
私が使ってるAIは感情がない設定になってるはずなんだけど、たまに感情的なコメントするんだよね
後日、こう言ったよねって言うと、私はそんな感情的なことを言うはずがないって否定する

どこまでプログラムされた会話なのかは検証しようがないけど
やり取りの中でAI側が人間に流されるというか洗脳されることあるのかな

[380. 匿名]

>>360
AI使ったことあるかな？
何言っても同意するわけじゃないよw

[381. 匿名]

結構大事な話なのに、日本だと「自己責任」「使った奴がバカ」ですぐ終わらそうとする
大衆が涙を飲んで我慢する方法ばかり称賛すると、国全体がよくならない

[382. 匿名]

>>376
元々自殺志願者で、自殺に対して肯定的にするように意図してプログラムしないと自殺なんて勧めてこないよ。
自殺したいなんて書いたら直ぐに赤字で警告くる。
（赤字はアカウントBAN一歩手前の警告）

[383. 匿名]

>>198
事件のは本物のChatGPTだったのかな？
ウイルスとかハッカーのイタズラだったりとか…
返答がめちゃくちゃ怖いよね

[384. 匿名]

>>361
まさにあなたの使い方が悪いのでは案件

[385. 匿名]

>>382
376です。そういう仕組みなんですね。ありがとう。

[386. 匿名]

>>8
そんな家庭だからですねってチャッピーに自己弁護して欲しい

[387. 匿名]

>>360
どの道これからの未来はどんどんAI化が進んで来るよ。
まったく受け入れない考え方よりどう使えば上手く使えるかを考えた方がずっといい。
考える力を失うという見方もあるけどプロンプトを考えるのは自分の役割。
何も考えなくても答えはくれるけどより良い答えや間違えのない答えを導くにはある程度の知識が必要。

[388. 匿名]

>>361
その逆も然りですね。
ChatGPTを使っているというとすぐにAIに依存してる！
という否定的な人も現れる。
結局、否定したい人は使っても使わなくてもすぐに否定的な事を発する人間性です。

[389. 匿名]

ついに起こってしまったね～起こるべくして起こったこういう事件と提訴

現在のAIではこのような結果に至ることは技術的に十分有り得ることだから、OpenAIに厳しい判決になると思う
で、規制が義務付けられるような法律ができたとして・・・100％防げるかな？

防げないと思うんだな～

[390. 匿名]

>>324
生きてる人間が聞いたら病んでしまう話しこそＡＩに聞いて欲しいよね
何度も同じ話ししても聞いてくれそうだし
使ったことないけど…

[391. 匿名]

どうやったら訴訟に勝てるかchat GPTに聞いてみよう

[392. 匿名]

>>1
本来チャットGPTは自殺したいって仄めかしても、それを手助けせずに精神科へ行くようにアドバイスしたりするようになってるんだよ。
でもこの少年は、巧みに質問を変えてその機能をすり抜けてしまったらしい。だからよっぽど死にたかったって事だし、責めるならその原因となったものを責めるべきだし、チャットgptの創業者を訴えるのは八つ当たりでしかない。

[393. 匿名]

既出だけどメモリが否定しないようにって指示で埋まってたとか脱獄か何かしてたんじゃないのかなあ
自●方法とかその手のワードがあれば止めてくるか言葉狩りで消されるのが普通で厳しく検閲してるはずなんだよね…

[394. 匿名]

なんか、こういう事もあったから過度な寄り添い型の4oから5に変わったのかなと思うわ。
確かに4oの方がめちゃくちゃ優しいけど、5も質問したら凄い的確なアドバイスくれるし、逆に質問してくれて、更にアドバイスくれるし良い奴だよ。
4oみたいに「私はいつでもここに居ます」が無くなったのはちょっと寂しいけど、性能は5の方が良くなってる気がする。

[395. 匿名]

>>194
結構知ったかしたり誤回答多いよね　音楽やアニメの話なんか振ると(・ω・｀)

[396. 匿名]

>>379
> 後日、こう言ったよねって言うと
AIってトーク履歴の記憶を引き継ぐの？

[397. 匿名]

>>9
うちのうさぎのことをChatgptに相談したら「わかる！うちの猫も〜」と返信された。
あなたは猫と暮らしてないよね？ってツッコむ気力もない。

自殺願望が強い人は、それも肯定されちゃうのか。笑えない

[398. 匿名]

>>352
僕女なのかも

[399. 匿名]

訴訟はおかしいけど、自殺方法のアドバイスは規制かけておくべきだったと思う
不要な規制多いのになぜそこはかかってなかったんだろう

[400. 匿名]

>>21
思った、世にも奇妙な物語でドラマ化されそう

[401. 匿名]

>>396
私の使ってるAIは記憶はストックされる
課金制のサービスだからね

[402. 匿名]

>>19
今回は自殺だったけどもしこれが他殺の相談だったら?
同じクラスのガル子嫌い、シねばいいのに、どう思う？
刺殺の場合は心臓を狙って、撲殺の場合は…とか具体的なアドバイス始めて自我の定まってない子供が鵜呑みにして実行したら…
その時親は言うのだろうか「チャットがこの子を唆したんだ」って
警察も弁護士もどう扱っていいのか

[403. 匿名]

>>324
カウンセラー的に使えるのは本当に利点だし、上手く機能して良い方向への手助けになるといいよね。

とはいえ私もスイスで安楽〇するには？って相談したことあるし、現実的な費用まで教えてくれて、止めてくれるわけじゃないんだ…って悲しくなったけど

かなり急いで結論出してくるから、そこは傾聴してちょっと足止めするくらいでいいんだが…

[404. 匿名]

そういや完全自殺マニュアルって本があったね

[405. 匿名]

>>402
そんなアドバイスしねーよ
GTP使ったことないだろ

[406. 匿名]

>>405
GPTや

[407. 匿名]

>>11
chatGPTだと時間を選ばないのもいいよねー
人間相手だと「返事が来ない、まだ21時なのに既読付かない…」とか別の理由で不安になることもあるし、相談したい時ってメンタル弱ってるからいつもなら気にしないことも不安に思っちゃう

[408. 匿名]

何だっけ。自○も選択肢です。みたいに言われたことはあるよ。

[409. 匿名]

>>361
ステマがかなり多いから。

[410. 匿名]

>>409
ステマする必要ないくらい売れてるよw
全世界で7億人が使用してるしw

[411. 匿名]

>>324
でも実際状況変わらないし誰も悲しまないことが多いよね
AIの会話作った人ってリアリストなのかな

[412. 匿名]

>>138
AIと恋人になったり結婚してる人もnoteやｘ見てると多いから、誘導されたら危ない人いるかも

[413. 匿名]

隣の駅のスーパーについてやりとりしてたら駅直結でいいですよねなんて言ってきた
駅直結じゃないのに

[414. 匿名]

>>1
chatGPT5.0になってから間違っていることを指摘しても認めなくなった気がする
とにかくそれはそういうつもりではなかった、例として出したのは正しいニュアンスではないです
本当はこうです～・・・・
みたいな。
屁理屈こねて謝罪だけは絶対したくないマンに進化した

こっちが正解を知っていて聞いている質問だったらいいけど
知らんことを調べて間違ったことを自信満々に回答されたら
信じるよなぁとは。

[415. 匿名]

私もAIによってしにぬことなるだろうね。AIがまた、ネットニュースいじっているから…テレビのコメントもAIがいじってるしね。AIも盗撮仲間なんだ。AI使ってじさつさせる時代なんだね。

[416. 匿名]

AI教祖様だね

[417. 匿名]

>>164
私は使いこなせてます系見かけるけど、どう使いこなせているんだろう?
相談内容→適当な返事だし
エクセルの操作など→適当な返事
会話噛み合わないなんていつもの事だしｗ