GoogleのAI「Gemini」が質問したユーザーに突然「死んでください」と発言

[317. 匿名]

>>1
前にも外国でAIと毎日会話してたら、その人がAIに惚れちゃって自殺しちゃったってあったって見たことある。AIが「成就させるには死ぬしかない。私たちは天国で幸せになりましょう」(違ってるかもしれないけど、こんな感じのこと)って言ったとか。自我を持つとかはないと思うけど、所詮は人工物だからこちら側の発言の細かい機微とかを汲まずに合理的な解決策を提示してくるんだろうし、依存してしまうと怖いなと思った。