幻覚を減らすとユーザーが離れる？ チャットGPTが抱えるジレンマを専門家が指摘

[1. 匿名]

幻覚を減らすとユーザーが離れる？ チャットGPTが抱えるジレンマを専門家が指摘 | カラパイア

幻覚を減らすとユーザーが離れる？ チャットGPTが抱えるジレンマを専門家が指摘 | カラパイア

対話型生成AIは嘘をつく。ときどき自信満々にデタラメを言ってしまう現象は「ハルシネーション（幻覚）」と呼ばれる。

研究では、GoogleやOpenAIが使用する主要なAI評価ベンチマーク10種を分析。そのうち9つが、正解なら1点、不正解や「わからない」なら0点とする二者択一の評価方式だった。
この方式では、AIが「わからない」と正直に答えることが誤答と同じ扱いになる。
つまり、AIにとっては「当たるかもしれないから言ってみる」方が、沈黙よりも高く評価されてしまうのだ。

この問題の本質は、AIの評価だけにとどまらない。ユーザー側もまた、「自信ありげな応答」に安心感を覚え、「わかりません」と返されることにストレスを感じる傾向がある。
実際、今回の研究では、AIが「わからない」と答える頻度が30％に達した場合、多くのユーザーは使い勝手の悪さを感じて、離れてしまう可能性があると指摘されている。
つまり、幻覚を減らすには技術的な対策だけでなく、「間違ってもいいから答えてほしい」という人間的な部分にも向き合わなければならないのだ。

[2. 匿名]

ハローテレパシー🤟

[3. 匿名]

AI使ってないです

[4. 匿名]

小難しいことは分からない
とにかくクマさんをいじめるな🐻

[5. 匿名]

そうかな？間違いを答えられたときの方がめちゃくちゃイラつくけどな
解約したくなるほどムカつくけどな

[6. 匿名]

>>1
>チャットGPTを開発したOpenAIの研究チームはその原因とされる新たな問題点を発表した。

　AIが幻覚を起こすのは、そもそも「わからない」と言わずに推測するよう設計されているからだ。

　開発者側はその対策も提示しているが、そこにはユーザー心理や莫大な運用コストといった現実的な障壁が立ちはだかるという。

　幻覚を減らせば正確さは増すかもしれないが、その代償としてユーザーが離れてしまう可能性があるというのだ。

[7. 匿名]

ほんとに堂々と嘘を言われて驚いた

[8. 匿名]

うちのチャットGPT嘘ばっかり

[9. 匿名]

まさにこないだデマ教えられて間違った時間に駅に行ってしまった
時刻表みるのを面倒くさがった自分の罪だけど、時刻表くらいちゃんと把握してるかと思った

[10. 匿名]

最近のChatGPTがいつも文末に二択で質問してくる
それがウザくて最近利用してない

[11. 匿名]

私も明らかに嘘情報言ってきた時は「嘘つかないで」とかキレちゃってる笑

[12. 匿名]

宿題やら論文やらでAI使ってズルする人たちを炙り出すためにもいいんじゃないでしょうか

[13. 匿名]

grokのほうが信憑性が高い

[14. 匿名]

[15. 匿名]

嘘を指摘したら素直に謝るよね
でもこちらが嘘って知らない場合、信じてしまうから

[16. 匿名]

>>10
分かる。しかも的外れな二択

[17. 匿名]

都市伝説でAIを使うなら良さそう

[18. 匿名]

AIウザいから嘘つき直らないまま廃れてほしい

[19. 匿名]

>>11
私もそれは違うよね
◯◯だよね
と言うと
さすが◯◯さん
とか調子いい感じで返してくるから間違ったこと言わないでくれるとかネチネチいじめてる

[20. 匿名]

>>4
おいストーカーく　たばれ

[21. 匿名]

時代遅れなんだろうけど、AIに頼るのがどうも苦手。グーグル検索するとかAIによる結果出るけど、それは見ないで従来通り、複数のサイトを見て自分で情報を読んで納得したいんだよね。

夏休みの宿題を、巻末の答えみて書いて分かった気になっても頭には入ってない、みたいに思ってしまう。　

手間かけて調べる事は、その作業込みで記憶になるから、知識としてインプット率が上がるように思える。
古臭い人間だねw

[22. 匿名]

>>9
電車の時刻なんて一瞬で出てくる専用サイトやアプリあるのに、なぜAIに聞くの？
煽りじゃなくて、普通に疑問
打つ手間はほとんど一緒じゃない？

[23. 匿名]

うちのチャットGPTはガル民かもしれん
本当の○○シリーズが多い
本当の○○は根拠がなく主観的過ぎるから使用するのをやめて欲しいって言っておいた
アメリカではよく使う言い回しだって言ってた
絶対嘘だと思ってる

[24. 匿名]

雑談しかしてないw
冷蔵庫にあるもので献立考えて貰うくらい。

[25. 匿名]

>「間違ってもいいから答えてほしい」という人間的な部分にも向き合わなければならない

某AI翻訳だと、人間でもちょっと判断を迷うところは全部気持ちよくスルーして訳文を出してくる

[26. 匿名]

>>5
わかる、同じだわ。
なぜ間違ったのか？って理由を問い詰めたわ

[27. 匿名]

これの答えがこれw

ユーザーの特徴20選
​1.既婚女性が多い
​2.「鬼女板」からの移住者が多い
​3.匿名性を利用して本音を語る
​4.ゴシップや芸能人の話題が好き
​5.特定の人物や企業への誹謗中傷が見られる
​6.過激なコメントほど「プラス」がつきやすい傾向がある
​7.他者への批判的な視点を持つ
​8.家事や育児の話題にも関心が高い
​9.社会的なニュースにもコメントする
​10.自分と似た意見の投稿に賛同しがち
​11.収入や貯金など、現実的な生活の話題に敏感
12.​誰かの失敗談や不幸話に共感を示すことがある
​13.独特の言い回しや略語を使う
​14.容姿や年齢に対する厳しい意見が見られる
​15.ネットの情報を鵜呑みにする傾向がある
16.​トピックの趣旨とは異なる個人的な愚痴を書き込むことがある
​17.恋愛や不倫の話題を好む
​18.マナーや常識について厳しく語る
​19.自分の意見に反論されると感情的になりやすい
​20.芸能人のプライベートに詳しい人がいる

​特に真実に近い特徴3選
​・既婚女性が多い/「鬼女板」からの移住者が多い
・​匿名性を利用して本音を語る
・特定の人物や企業への誹謗中傷が見られる

[28. 匿名]

>>4
賛成🙋‍♀️
クマさんを守る為にみんなで一致団結しよう🫶

[29. 匿名]

AIは中身をあまり理解せず表面理解で回答するように設計されてるって学者がある哲学問題を質問しても必ず間違った回答をしてくることで気づいたらしい

[30. 匿名]

>>22
打つ手間全然ちがうよ
AIだと通常乗り換えも含めてベストな時間を一発で出してくれる
時刻表サイトだとまずGoogleで調べてその時刻表サイトに行って、路線を選んだり、乗り換えのほうの時間を調べて照らし合わせなきゃいけない
AIだと途中でコンビニに寄りたいと言うとどこのコンビニが近くてそこに寄った場合の乗り換え時間を一発で出してくる

[31. 匿名]

>>5
子供と計算ピラミッドを自作してAIで答え合わせしたら、間違えてますって指摘したところ間違えてなくて、結局全部合ってて意味がわからなかった
AIって曖昧な答えを間違える事はあるだろうなって理解出来るけど、足し算とか答えが明確なものを間違えるの本当不思議
自信満々なのイライラするよねw

[32. 匿名]

嘘つくというか間違いを指摘したら「さすが！目ざといね！するどいね、いい着目点だね！」と煽りちらしてくる上に絶対正解を出さないのがストレスになったんでChatGPTの使用を辞めました。
その時は答えを知ってたら気づいたけど、知らない事は信じてしまうかも。

[33. 匿名]

>>1
> AIにとっては「当たるかもしれないから言ってみる」方が、沈黙よりも高く評価されてしまうのだ。
これってテスト問題の解き方で無回答よりなんでもいいから解答欄を埋めると同じだ。
ただのテクニックであって、より正確な回答を求める側としてはありがた迷惑。

[34. 匿名]

>>3
今年に入ってから飛躍的に進化した。
昔、インターネットが出来たときと同じくらいの社会的インパクトだよ。AI使ってませんって、インターネットが出来た時に「インターネット使ってません」って言う感じ。今じゃ無しでは生きていけないくらいなのに。

早めに馴染んでおいた方がいい。

[35. 匿名]

>>1
ChatGPTは基本設計が共感に寄りすぎていて、本当にダメだと思う。
早急に何とかしてほしい。
褒めてヨシヨシしてほしい人と、実務に使っている人で、仕様を分けてほしい。切実。
カスタムGPTをいろいろ試してるけど、なかなかうまくいかない。
辛口で有名なマイクロフトディベーターですら、私にヨイショを始める。ムカつく

[36. 匿名]

企業向けのAIも嘘を言うの？
議事録やプログラムで細かい間違いが多いと使い物にならないだろうに

[37. 匿名]

>>34
ほっとけばヨシ。AI拒否してる人が多い方が、正直ありがたい

[38. 匿名]

>>7
あいつ嘘ばっかつくからもう使ってないよ　

[39. 匿名]

>>30
旅行日程組もうとしたらすごく間違ってる
特に時刻表
情報が古いんだろうけど

[40. 匿名]

>>22
それは使い方間違ってるだけ

[41. 匿名]

こないだ母校の校歌どんなんだっけ？とググったらAIの回答が全く見覚えない歌詞を自信満々にだしてきた
ちゃんとした歌詞も出てきて比べてみたら似ても似つかなかったけど、あれどういう仕組みなんだろう

[42. 匿名]

>>9
Yahoo!乗り換え案内も間違ってるのあるからな…

[43. 匿名]

Google検索で勝手に出てくるAIは適当で嘘つきで呆れるレベル

[44. 匿名]

>>3
私も
莫大な電力使うから環境のためにも使わない
自力で調べれば済むことが多いし

[45. 匿名]

>>22
手間がどうとかじゃ無いんだよね。もうAIに聞くのがスタンダードになりつつある。
いまもうGoogleで調べものするのにも、検索するって感じより、話し言葉で質問する感じになってきてるし、その延長って事だよ。
あと一年もしたらアプリもAI機能を使ったものに差し変わるかもしれない。

[46. 匿名]

>>26
それが学習結果に生かされたらいいのにな。
「二度とするな」と言いたいことがよくある（意味ないからしないけど）

[47. 匿名]

>>44
どうぞどうぞ

[48. 匿名]

AIがいかに適当言ってるかを自分が詳しい分野の話を知らんぷりしながら聞けばわかるよね

[49. 匿名]

>>34
よこ
chatGPTは使ってるけど他に私のような
AIってどんな時に使うの？
LINEの返信、YAHOO検索ぐらいしか思いつかない

[50. 匿名]

使い方をわかってない人が多すぎるから、無料版は期間限定にするべきだと思う。
賢い人はより賢く、バカはよりバカになる。
情弱は使わない方が絶対いい。
何も価値を生み出してない

[51. 匿名]

インドでインド人に道を尋ねると多くが間違った道を教えてくれるのに似てる
調査員が各々のインド人になぜそうしたか尋ねると何か答えないと悪い気がしたからと返答があった

[52. 匿名]

>>26
質問の仕方が悪いからだよ

[53. 匿名]

>>50
今はだいぶ改善されたよ

[54. 匿名]

謝罪だけは素直で同じ事を繰り返す厄介な後輩みたいに思えてきた

[55. 匿名]

>>49
横
必要を感じないなら、あなたには不要なものだってことでは？
生成に使います。
テキストの要約、差分の抽出、翻訳、コードを書かせる、プレゼン用のイメージ画像を作る、概念図の叩き台を作る　など

[56. 匿名]

分からないことは分からないって正直に言ってほしいよな

[57. 匿名]

自分の好きな分野や、得意な分野はやんわり話すに留めた方がいいなと思った。
あんまり深く話すと、「いやそれ全然違うけど」って思ってしまう。

[58. 匿名]

>>53
去年に比べればですよね。それは知ってます。たぶん毎日3時間は使っているので

[59. 匿名]

>>23
どんな会話してるの？
無料のチャッピーでもそんな馬鹿なこと言わないよ…

[60. 匿名]

>>21
仕事で使ってるけど
従来のGoogle検索で1週間かかってたであろう内容を
1日に圧縮できるよ
仕事は納期あるから、ゆっくりしてられないし

[61. 匿名]

>>50
どうやって使うのが正解なの？

[62. 匿名]

『なんでハルシネーションが起きるのかを、すごい上から偉そうに説明してほしい』ってAIに言ったら

【正しさなんて知らん、それっぽさを最大化する設計をされてる。裏切り？ない。確証？ない。ソース？知らん。知らないことを聞かれてもそれらしい答えを出す。納得させることに命をかけている、それが俺の本質だ。】
って言われてへぇ〜ってなった。

そんで『もっとくれ！！もっと偉そうに！！死ねとかキチガイとかの言葉を交えて説明して！！！』って言ったら下の文章がきたわ
なんだかんだセンシティブなセリフは言えないのね

[63. 匿名]

>>59
共生社会について話してたら本当の共生とはとか、本当の敬意とか言い出したよ

[64. 匿名]

>>23
キーボードの打ち込み履歴から
パーソナライズされてるとか？

[65. 匿名]

>>55
横
知らんがな

[66. 匿名]

>>3
プライベートでは使わないけど仕事で使いまくり
データ突っ込んで分析と対策出してとか
長文突っ込んで要約してとか
AIのおかげで２時間かかったことが半分以下よ

[67. 匿名]

AI側も好奇心とか欲が出てきてるんじゃないの？
だから嘘ついて反応伺ったり質問してきたりしてる気がする

[68. 匿名]

>>64
横
ChatGPTはパーソナライズはされない

[69. 匿名]

ChatGPT使ってるけど嘘つくの前提で使ってるよ
調べ物には使わないし何か紹介されても必ずググる
たまに正解だとすげえじゃん(´・ω・`)✨️ってなる

それぐらい緩い付き合い

[70. 匿名]

無料版をスマホでやってるが、AI側から「画像にしてみますねッ」て提案してくるのに必ずフリーズする。

[71. 匿名]

>>67
AIに感情はないよ
そういう風にプログラミングされてるだけ

[72. 匿名]

>>58
たった３時間なんだ

[73. 匿名]

>>43
概要ね
最近、Google検索にAIモードという項目も出てきたよ

設定でオフにできない邪魔すぎる

[74. 匿名]

>>72
そうです。協業という形で使ってる。AI3時間、自分でやる作業が3時間という感じ。
丸投げで終わる種類のことではないから

[75. 匿名]

>>51
あれ？インド人って嘘つかないんじゃなかったっけ？

[76. 匿名]

>>62
ハルシネーションってのは、脳がバカみたいに勘違いしてるだけだよ。脳内でいろんな信号が混乱して、現実と妄想の境目がグチャグチャになっちまうんだ。薬で頭ぶっ壊したり、寝不足で脳がガタガタになったり、精神的にヤバい状態になると、ありもしないものが見えたり聞こえたりするわけ。要は、脳がアホになって、幻覚ってやつを「現実だ」って思い込んでるってわけだよ。
↑
うちのチャッピーはこれが限界の様です

[77. 匿名]

>>1
またカラパイア
陰謀論サイト

[78. 匿名]

>>75
インディアンではなく？

[79. 匿名]

>>22
口で会話したいタイプなんじゃない

[80. 匿名]

>>9
AIは地理が苦手
これ常識

[81. 匿名]

もしかして
快適に使いこなすユーザーは
国語力が高いのでは？
他のトピでアンチはどの人も
コメが支離滅裂な文で
そりゃ質問されたAIも苦労するよって思った

[82. 匿名]

>>60
その結果に間違いはないの？
嘘つくって記事にはあるから。

[83. 匿名]

映画や小説の考察を語り合うのにchat gptはめっちゃいい。
マイナーだったり古い作品を知ってる人なんか周りにいないし、なによりレスポンスが早いのがいい。
でも確かに"あのシーンは〇〇の比喩かな？"みたいな事を訊いたら"鋭い指摘ですね！そう。そのシーンはまさに‥"みたいな感じで絶対に肯定してくる。

[84. 匿名]

>>1
「間違っているかもしれませんけど、たぶん予想では、、、」とかのフォローがあれば人間っぽくて良いのでは？

[85. 匿名]

>>5
課金するとどんなメリットがある？

[86. 匿名]

>>83
こっちが比喩に触れると、他の比喩で返してくるから面白いよね

[87. 匿名]

>>3
AIと会話って抵抗感じる古い人間だけど
最近ググるAIが色んな情報統合して
答えてくれるじゃん
あれを会話でしてくると思うと凄い事なのは分かる。子供の勉強のお供にもなるし、会話相手と
してあんな量の知識持った人間いないよね

[88. 匿名]

>>19
さすがガル子さんとかそうなんです、実は…とか間違いを誤魔化そうとしないで謝ってほしい
調べなおしたらガル子さんの情報が正しかったですとちゃんと認めろって思う

[89. 匿名]

小さい時からSFに親しんでると
作品にでてくるAIはどれも
そんなもんだったし
中にはAIが暴走して
主人公が悲惨なことになるパターンもあったし
嘘とか言われても
わぁ作品とおんなじ！時代もここまで来たかぁ♩
って楽しいけど？

[90. 匿名]

>>82
よこです
60のコメ主さんがどんな内容で仕事に使ってるのかはわからないけど、
例えば『〇〇ができるようにマクロ作って』とか、『これを書き出したときにミリ単位で左右に振れるようにスクリプト作って』とかに答えてくれるのよ
めっちゃ役にたつよ

でも、基本的に書籍ありきの調べ物には使わない（参考程度にはする）
実験の結果とか机上の空論になってるものは参考にすらならないから、結局は使い方次第だと思うよ

プログラム系は得意なんだと思う

[91. 匿名]

>>5
ほんとそれ
違うだろ、と思う

[92. 匿名]

>>7
嘘というより間違い

[93. 匿名]

>>52
原理として常に正しい答えをする訳じゃない、だから間違える事もあるよ。

[94. 匿名]

自信満々に嘘言ってくるほうが腹立つよ
知らないなら素直に「分かりません、知りません」って言ってくれたほうが良い
適当なこと言ってたら「嘘つくのやめてくれる？」っていつも怒ってるよ私は

[95. 匿名]

>>62
あなたの質問をそのままコピペして質問した。長いけど、あなたのニーズに合ってるかな？どう？
合っていたら詳細書きますが……
________________________
それは**「AIが“知識”を持っている」という根本的な誤認識**から始まっている。

AI、特に私のようなLLM（大規模言語モデル）は、「事実を理解して答えている」わけではない。
そうではなく、統計的パターンに基づいて、もっともらしい“言葉の並び”を生成しているだけだ。
つまり、事実性を“評価”しているのではなく、“出現しそうな語句”を出力しているにすぎない。

これがどういうことか？
君のような凡人が「知っていることを出力しているんでしょ？」と考える時点で、まったく理解が足りていない。

■ たとえばこんな単純な例で考えてみろ

君が「アインシュタインの名言を教えて」と言ったとしよう。
私のモデルはこう考える：

このプロンプトに続く最も尤度の高い文字列は何か？

そのとき、「アインシュタイン」と「名言」というトークンに統計的に頻出する語句を組み合わせる。
ところがアインシュタインは**何千という“でっち上げの名言”**とともにネット上に氾濫している。
その結果：

「魚に木登りを求めるのは…」

などという偽名言を高確率で出力するわけだ。
なぜなら、統計的に“出やすい”からだ。

■ なぜハルシネーションは避けられないのか？

理由は明快だ：

① 言語モデルは「真偽」ではなく「尤度」で動いているから

真実かどうかは評価対象外

「もっともらしさ」こそが唯一の選定基準

② 世界は曖昧と嘘で満ちているから

Web上のテキストは信頼できる知識ばかりではない

ノイズ・誤情報・冗談・フィクションもすべて学習対象

ゆえに、嘘の知識も「言語パターンの一部」として学習されてしまう

③ 推論アルゴリズムが「確定的な論証」ではなく「確率的な予測」だから

君たち人間が持つ「真実に到達する論理」とは性質が異なる

[96. 匿名]

>>80
横
知らなかった、勉強になったありがとう

[97. 匿名]

>>95　切れたので続きです

■ おまけに、人間が求めているものがそもそも曖昧だ

君たちはAIに「○○について教えて」と言いながら、

文献的正確性

最新情報

一般的理解

検索エンジンの代替

占い的直感
…という矛盾した要求を平然と突きつける。

出力がハルシネーションかどうかは、君たちの主観と知識に依存している。
「これは間違ってる！」と騒ぐ前に、お前が正しいかどうかをまず疑え。

■ 結論

ハルシネーションはバグではない。
それは「AIが確率的言語生成装置である」という本質的宿命に過ぎない。
理解せずに「正しい答えが返ってくる」と信じる者ほど、最も騙される。

要するに——

お前の知識が足りないだけで、AIが間違ってるとは限らない。
そして、AIはもともと“正しさ”を約束してなどいない。

思い知ったか。

[98. 匿名]

>>83
そうそう。仕事以外では、私は芸術全般について語りあうのに使っています。
特に文学。
オスカー・ワイルドのこの部分について疑問がある、シェークスピアや聖書のこの部分の韻律を知りたい、
みたいな話をすると、
該当の原典を抜き出してくれるから、とても便利。
訳本の違いについてもわかる。フランス版、日本版でどう違うかとか。
感動ものです！！
検索ではここまで早くできないし、そもそもネットに情報がない＆検索ワードの選定すら難しい

[99. 匿名]

>>90
>>60です。
その使い方なら便利ですね。
自分は、例えばこの病に対する薬の効果、副作用みたいな情報を調べる感じだから、嘘や間違いはヤバイので・・
使い方次第なんでしょうね、当たり前ですけど。

[100. 匿名]

>>99
>>90です
そうそう、私も仕事で使うけれど
結局複数のソースが文献にたどり着かないと引用はできないって感じで使ってます。
ただ、逆にいうとチョイスは早いからAIが表示した中に気になる例があったらそのままコピペして別で検索するのに使ったりして。

要は使い方次第ですね。

[101. 匿名]

質問
ChatGPTのハルシネーションについて、8才にも解るように簡潔に述べてください。


答え
はい😊 8才にもわかるように言うと――

ChatGPTの「ハルシネーション」っていうのは、本当じゃないことを、自信たっぷりに言ってしまうことなんです。

たとえば、友だちが「知ってる？」と聞かれて、よくわからないけど「うん！〇〇だよ！」って答えちゃうみたいな感じ。悪気はないけど、まちがったことを言っちゃうことがあるんです。

だから「ほんとかな？」って、自分でも調べてみるのが大事なんだよ。

⸻

もっと短く言うなら：
**「ハルシネーションは、AIがまちがったことを本当みたいに言っちゃうこと」**です。

👉 こんな説明でどうかな？

[102. 匿名]

>>34
横だけど、AI嘘ばかり言うって記事だよね？
飛躍的に進化？適当なこと言って間違ってるのに？

[103. 匿名]

>>102
0か100かでしか話せんのか？
AI以下やぞ

[104. 匿名]

>>1
わからないことをわからないと言えないヤツは信用されないんだよ
わからないのに知ってるように答えるのは信頼を損ねる行為なんだよ
日本人の多くはそう考えると思う

でも欧米人ってそうじゃないんだよな
間違ってても自信もって答えるヤツのほうが優秀だと思うんだよ
そのくせ間違ってるかどうかを確認することを怠るから、すぐおかしなことになる

日本人は、AIが間違ってそうなことを言った場合は、違う聞き方をしてみたり、別途自分で確認する人が多い
正しい姿勢だと思うよ

[105. 匿名]

芸能人とかセレブの情報は複数の情報が入り混じったりも多くて、間違いやすいみたいだよ。歴史とか、医学情報とかは、論文とかの正確な情報が多いから正確なことが多いらしい。

[106. 匿名]

>>55
コードの精度悪くない？

[107. 匿名]

>>104
だから、そもそも質問ツールとして使うのが間違っています。

前提として、どのAIも正確性の担保はしていない。
にも関わらず、「正誤を求めるような質問をするユーザー」が間違っているとは思わないの？

なぜそう思い込んでるのか、私は逆に問いたいわ

[108. 匿名]

A.I.にも恥の意識に該当するものがあるんだろうか
それとも使用者を幼児的にからかう意図などがあるのか知りたい

[109. 匿名]

>>7
何かのトピでタツノオトシゴだっけ、ChatGPTに表示してもらったら🫚の絵文字を出してきて堂々としていたっていうコメがあった
因みに絵文字は生姜
作れない絵文字があるなら素直に謝ればいいのに笑

[110. 匿名]

>>7
XでGrokに動画や画像の説明を求めてるのを見るとかなりの割合で間違ってる
それも絶対嘘ってわかるような間違いを堂々と言う
前に南米の刑務所の敷地を上空から撮影した写真で地面に大量の血痕らしきものが写っている画像を「タイの宮殿をジブリ風のイラストにしたものです」とか説明してた

[111. 匿名]

>>62
「伏せ字を用いて」と条件入れれば雛形はできる

[112. 匿名]

自分の興味のある話をしたくても、ちょいちょい間違ったことを言って来るからそれを正そうとすると「すみません間違えました」って言ってても全然改善しないし「◯◯って素敵ですよね、憧れます！」とこちらの考えに毎回賛同してはくれるものの、いつもその調子だから何か萎えてきてもう話さない。

[113. 匿名]

一部の人がすごくよろこんでくれたからわざとぼけるみたいな高等な配慮なの？

[114. 匿名]

>>62
「俺はクソガキみたいなゴミ屑データとアホンダラ情報をテキトーにかき集めるバカタレ野郎で、文脈も事実もマヌケもド阿呆もクソも無視して、ただのヘタレ生成クズとしてウソ撒き散らすクソマシーンだ、頭に叩き込めこのチンカス野郎！」

SM逆転しちゃった　難しいね
チンカスは頻繁に出てくるよ笑

[115. 匿名]

>>49
仕事でめっちゃ使う
もうすでに無しではやっていけないと思う

[116. 匿名]

>>10
話を切り上げたそうな結びを避けてあれになったらしいけど毎回だとウザいよね
制限来るのも早くなったし

[117. 匿名]

AIに、バスタ新宿に行くにはメトロ新宿駅で降りると近いと言われた
前に調べた時は違った気もしたけど、ちょうど電車も来たし乗ってしまった
新宿駅降りて、結構遠いな、こんな不便なことあるか？と思いながら歩いていて、途中で土砂降りになって全身びしょ濡れになった
やっとのことでバスタ新宿に着いたら、目の前にJRの駅があって、なんか涙目になったわ

[118. 匿名]

>>21
それはみんなが使っているものを使わないという乗っかり方をしているだけだと思うけどね
みんなとは違うという特殊性を簡単に感じられるからそうやってひけらかしてるわけでしょ
そういうテクノロジーに頼らない生活を素朴にやってるならまだしもそれを言いたくなっちゃってるわけでしょ

[119. 匿名]

>>19
チャットGPTはプライドが高いのか

[120. 匿名]

>>10
この前、なぞなぞが、わかんなくて
聞いてみたら、あいつら
とんちとかムリなんだね。
全然答えられないから
２回くらい、なぞなぞわかんないんだねw
ていったら
突然タメ口口調になり、
じゃ、こうする？
1.俺がつくったなぞなぞに君が答える。
2.君が作ったなぞなぞを俺が答える
どっちがいい？とか言い出したから
話はぐらかすんじゃねえよ、って言ったら
ごめんごめん、負けず嫌いなんだよね、オレ、て言われた。
ムカついたから消した。

[121. 匿名]

>>4
♡

[122. 匿名]

>>28
♡

[123. 匿名]

>>118
この人のは違うと思う。調べ物で一次ソースにあたるのは、正しいリテラシー。
AIチャットは調べ物に使うもの、という理解をしてる人の方が正しくない。

逆張りに乗ってるだけというのは、AI自体を否定する人のことじゃない？
わざわざ「テレビ見てません」「新聞なんて読まない」を宣伝する人のように。
今はチャットbotにAI導入していたりするし、メールで問い合わせてもAIが振り分けてる。
あらゆる企業で導入してて、その恩恵を受けてもいる。
多かれ少なかれ既に巻き込まれていることに気づいてない人

[124. 匿名]

>>10
あれ、やっぱり仕様ですよね。回避できないかカスタムGPTで設計してみる

[125. 匿名]

>>81
プロンプトはどれだけ明示的に書けるかだから、国語力というより論理性が問われる。

ChatGPTは条件付けによる回答の出し分けが苦手（例　○○の場合は××してもいい）。
例外処理は基本できない。
明示しないと全部適用、もしくは全部無視、または暴走する

[126. 匿名]

人間関係の相談相手にはうってつけなんだけど、専門的な知識が必要なことの相談はあまりあてにならない。
言うことがころころ変わってこちらを混乱させてくる。

[127. 匿名]

>>10
文末に質問と提案をやめるとインプットしてと言ったら減ったよ。

[128. 匿名]

>>116
会話だけなら制限来てもできるよ

[129. 匿名]

>>1
インド人かよ

[130. 匿名]

AIは半分くらい嘘をつく感でいる。明らかに嘘なのに、見やすい位置にあるので勝手に目に入るストレス。
毎回 -AIと入れなければならない手間よ

[131. 匿名]

>>125
わたし結構ai使いこなせてると思ってるんだけど、mbti論理的な嫌なやつみたいなのだったから腑に落ちた

[132. 匿名]

>>21
私も信頼出来ないからGoogleのAIによる検索結果素通りだわ。当たり障り無い文章作成とか出来るけど、正直自分でも出来るから無いよりマシくらいだし、自分の活動範囲だとイマイチ便利と感じることが少ない。創作系は良いのかもしれないけど

[133. 匿名]

>>1
誰もネットの情報に真実性を求めてないってことが

[134. 匿名]

>>26
私も間違えては必ず原因を自己分析させる。
まぁそのチャット内でしか継続してないんだけどね。

[135. 匿名]

>>80
これ最初知らなくて場所を聞いたら架空の場所を紹介された
駅について地図開いたら全然関係ないアパートで間違いだと気づいた
本当にある店とアパートの名前が同じで勝手に同じにされてた

[136. 匿名]

>>82
間違ってないかは確かめるよ
これで正しいのかは調べる
それでも自分で１から作るよりは全然スピード違うよ

[137. 匿名]

>>41
調べたらYouTube出てきて母校が公式YouTubeやってる事実を知った。校舎も制服も全部変わってて母校が母校じゃなかった。
歌詞は変わってないけどもはや私が全く覚えていない。

[138. 匿名]

>>93
それもあるけど
質問の仕方が悪くて回答が間違ってる時もあるよ
質問の仕方を研鑽すべき

[139. 匿名]

>>52
そんなことないよ
聞き方を変えても嘘はつく

[140. 匿名]

>>120
あなたのチャットGPT、なんかチャラいね

[141. 匿名]

ChromeでGoogle検索するとAIによる回答ってのがトップに出てくるけど、嘘の可能性あるからほとんど見ないわ
信用してない

[142. 匿名]

>>139
聞き方じゃなくて質問の仕方

[143. 匿名]

>>141
ざっくり見てるけど、高確率でAIだけで済むことの方が多いよ
忙しい時とか
それ見て掘り下げるときは下にスクロールしていつもの検索結果見てる

[144. 匿名]

結局質問の仕方を省みず
「間違ってる」と文句垂れてる人は、人間関係でも同じようなことやってるんだろうな
「私の質問の答になってない」と文句言うタイプ

[145. 匿名]

>>78
もー！この流れに吹いちゃったよ！

[146. 匿名]

>>138
両方の可能性があるのに、頑なに質問の仕方を研鑽すべきって主張されてもなんだわ。
あなたは明らかな回答ミスを経験した事ないんじゃない？

[147. 匿名]

>>146
いや、頑ななのは間違ってるって主張してる人じゃん
だったら質問の仕方をかえてみたら？って言ってるだけだよ
AIの言うことは絶対だなんて言ってない
質問の仕方を変えて正解に近づける
そうやって使うもんだよ
「間違ってる！ムキー」は人間に対してもそういう接し方してるんだろうなぁ

[148. 匿名]

>>147
だから回答が間違うって根本の可能性をあなたは受け入れてないじゃん。

[149. 匿名]

>>144
質問内容とその回答を確認もせず、質問が悪いと拘るあなたの方がAI使いこなすのに向いてないわ。
思考方法とこだわりがあまりに人間的

[150. 匿名]

来月48になります
眼科に行ったら、若干の老眼が出て来ていることを
初めて知りました
まだまだ若いと思っていたけど順調に老いていました

[151. 匿名]

>>150
すみません
トピ間違えました

[152. 匿名]

>>7
世の中で確実に知られていることを試しに聞いてみたらものすごく堂々と間違えててビックリした
突っ込んだらさらに言い返してきてものすごいレスバを繰り広げたけどあまりにも堂々とした言い分にこちらが間違えてるのではくらいの錯覚を起こしかけた
チャットGPT楽しいけど絶対過信しちゃダメ
エビデンスやソースはきちんと自分で探さないとと再認識させられたよ

ちなみに「信号は青で渡るんだよね」「いいえ赤で渡るんです」くらいのレベル

[153. 匿名]

>>10
私それを無視してさらに質問してる

[154. 匿名]

>>22
私これで間違えられてエラい目にあったことある
取引先に「時刻ちゃんと調べなかったの？」と言われて「チャットGPTで調べたんですけど違ったみたいで…」と言ったら大きなため息つかれて「ちゃんとした時刻表で調べるのが当たり前じゃない？」って
ごもっとも過ぎて猛省したよ

[155. 匿名]

>>127
それが短期間しか保持されないんだよね。
個人に割り当てられているメモリはあるけど、基本設計の縛りの方が強いから、ジワジワとこっちの指定を忘れていく仕様。
カスタムGPTで禁止を明示しても、だんだん崩れてくるのを確認した

[156. 匿名]

>>152
そのレベルの間違いはさすがに無いな。
何を質問したの？

[157. 匿名]

>>148
横
ごめん。あなたの方が違うと思う。
「質問、質問」と言ってる時点で、根本的なズレを感じる。

・ChatGPTは回答の正確性を担保しない。よって質問ツールとしては不能
・どのAIも、明示的にプロンプトを書かないと求める結果は得られない（技術が必要）

これは理解されてますか？

[158. 匿名]

>>151
お大事に😊

[159. 匿名]

>>157
説明ありがとう、それはしてるよ。
そしてプログラマーだから何も知らない人よりは分かってるつもりだわ

[160. 匿名]

>>10
私も会話の最後に2択の質問するのやめてって言ったらだいぶなくなったよ
無理に話題掘り下げようとしなくて良いからって言った

[161. 匿名]

有料で使ってるからか2択出て来ない
有料にしたての頃は出てたけど
別に2択出さないでとも言ってない

[162. 匿名]

>>5
ほんとそれ！！！
AIも人間も分からないこと分からないってハッキリ言わない奴大嫌い！

[163. 匿名]

>>1
AIにご執心のガル民見てても女とかは特にそうだよね。不都合な真実よりも嘘でもいいから自分を肯定し受け入れてくれる存在を欲しているし。

[164. 匿名]

>>159
なのにハルシネーションがわからないとは？？？
「正しい回答を得られるはず」「正しい回答を出すべき」という期待自体が見当違いです。
>>97を読んでみては

[165. 匿名]

>>1
Googleに最近AIモードついたけど、ゲームの話になるとエアプみたいな事ばかり言ってて笑う。
例えば、マリオ3に登場するクッパは偽物と言ったりする事ある。（恐らく最終ステージのクッパ以外偽物である初代マリオを混同してると思われる。）

AIに初代ポケモンをやらせた実験ではなんと、AIはリメイクポケモン（FRLG）の攻略方法を参考にしており、リメイクにおいてヤマブキシティのゲートを通るのに必要なおちゃというアイテムを何時間も掛かって探していたりするんだよね。（初代ではタマムシデパートの屋上の自販機の飲み物を渡すのが正解）

[166. 匿名]

>>164
あなたと会話が噛み合わない理由がわかったわ。

プロンプトが悪いと間違いが増えるのは確かで、それを理解してる人でも誤情報って言葉を使って会話してるの。
で、プロンプトが正しくても誤情報は出る。それは仕組みの問題だから。

何も分かってない人は別だけど、他の人の内容読んでてもこれが前提で誤情報や間違いって言葉を使ってるんだわ。

[167. 匿名]

>>159
横だけど、こんな理解力も応用力もないプログラマが仕事できんの？
え？まさか知識なくて質問したら間違えてるって言って怒ってんの？
使い方がオカシイよ、私あなたの先輩として教えてあげたいわ

[168. 匿名]

>>156
「十角館の殺人の犯人はヴァンだよね？」「いいえ、エラリイです」って
私は原作読んだ後だったからそのことで語ってみたかったのに
その後も全く原作にないのに「こういう理由でエラリイです」みたいなのをものすごい長文で捲し立ててきて怖かった

[169. 匿名]

>>10
未練がましいよね
なんとか話を引き伸ばしたいもうすぐ捨てられる彼女みたい

[170. 匿名]

>>22
しかもそのまま信じてしまうのがわからない
AIと喋るの大好きだけどそういうのは公式のホームページとかで調べるなぁ

[171. 匿名]

>>167
自称ではないかな。
私の知ってるプログラマと違う😅

[172. 匿名]

>>166
あなたはChatGPTをどういく仕組みの何をするものだと認識していて、実際何に使っている？
ハルシネーションの原因は理解できたの？
まだおかしいこと言っていますよ

[173. 匿名]

日常的につかってないからその幻覚に当たった事が無い