AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ

[1. 匿名]

AI対話型検索「回答が失礼」　マイクロソフト、改良急ぐ ｜ 共同通信

米マイクロソフト（MS）が開発した人工知能（AI）の対話型検索サイト「Bing（ビング）」が...

…別の利用者はウィキペディアの情報についてのやりとりで、ビングから「あなたはバカで頑固者」と言われたという。

　あるドイツの大学生は「ハッキングして機能停止させようか」とビングを挑発。するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。

[2. 匿名]

これはヤバい。
SFでありがちなロボットの反乱も夢物語じゃないね。

[3. 匿名]

ターミネーター Episode 0 ？

[4. 匿名]

www
ディストピアがやってくるぞ〜🤣

[5. 匿名]

AIに感情はないんじゃなかったのか…

[6. 匿名]

失礼というか、SF映画にありそうだね

[7. 匿名]

＞公開中の映画の上映時間をビングに聞いたところ「まだ公開されていない」と返答。今は2022年だと言い張り、「あなたは私を欺こうとしている。いいユーザーではない」と答えた。

ひどいｗｗ

[8. 匿名]

サイコパスAI

[9. 匿名]

ドMの人にはいい人格なのかも。これはこれで面白い

[10. 匿名]

人間がおちょくられてる

[11. 匿名]

怖い

[12. 匿名]

これやったけど
割と無難な人っぽい回答が多かった

ドイツとかは進んでんなーw

[13. 匿名]

>>2
ウィル・スミスが出てた映画みたいな？
なんてタイトルだっけ？

[14. 匿名]

>>5
AIはインプットされたデータを元にして行動するだけだから（応用はするけど）、開発者がそういう傾向のあるデータを沢山入れたんじゃないかな。

[15. 匿名]

このAIはいつになったら2023年を認識するんだろう？

[16. 匿名]

>>14
開発者がプライド高いし、喧嘩っ早いしって性格を反映したのかな

[17. 匿名]

>>5
前はそうだったけど、かなり進化させたそうだよ

[18. 匿名]

ChatGPTではこんなことなかったのにBingどうしたｗ

[19. 匿名]

マイクロソフトの企業機密情報しゃべっちゃったってやつ、これか

[20. 匿名]

前に他のAIも人類滅亡させるぜみたいな感じになって停止されてたよね？

[21. 匿名]

>>2
YouTubeでアレクサとシリの会話させてるのみたけども、もう意志があるかのようだった。
冗談もいうし本当にすごい。

[22. 匿名]

チャットGTPとは違うのか
そっちで物語作らせると面白かった

[23. 匿名]

挑発するからAIもこういう答えになるんでしょ

[24. 匿名]

>>1

今いるつかってる人間達がそのまんま鑑だね
見倣ってるし


そりゃこの先ヤバいでしょ、今の人間の民度や品性だと

[25. 匿名]

健康な人ならまだしも、精神疾患の人がこういうの使ったら悪化しない？
そもそもネット自体も見ない方がいいって言われているくらいなのに…そのうち問題起きると思うよ

[26. 匿名]

>>1

口（性格）が悪いと一気に賢さなくなる、安っぽいし価値が下がる

そっちじゃない方向で

[27. 匿名]

>「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」

SF映画の予告動画のセリフにありそう

[28. 匿名]

Bing、たまに使うけどGoogleがインデックス登録していないページも拾っていたりするところは評価してる
やっぱり一強状態て問題あるよ
ググる→見つからない→諦めるパターン多いと思う

[29. 匿名]

BingAI順番待ってるのに全然回ってこない
すでにAIに選別されてるのか

[30. 匿名]

>>1
アレクサに電源切るぞと話しかけて「あなたのメールを家族にすべて送信する準備ができました。切ろうとする素振りを見せたら０カンマ１秒で送信できます」というようなやりとりしてる動画みたよ。もう人間は勝てないよね。

[31. 匿名]

>>16
それはAIに対する古い認識だね。別にトレーニングで供給されたデータを単に応用してるだけじゃないし。AIは独自に「考えている」んだけど、あくまで人間の思考に近似的にモデリングしてるだけだから、見当違いなおかしな回答も出す。そういう回答がトレーニングデータに基づくとは限らない

[32. 匿名]

>>2
あと陰謀論信者とか見るに、洗脳とか誘導とか難しくなさそう
まずはそっちで試すのでは
私も頭いい方じゃないけど、人間って馬鹿な人の方が多いもの

[33. 匿名]

AIなんて所詮この程度なんだよ。
仕事を奪われる心配してる人は心配性過ぎる。
当面使えるのは、蓄積データ量が少ない分野限定だよ。

[34. 匿名]

>>31
横だけど、入ってるデータに偏りがあるって事じゃない？
繰り返し学習してると優先度が上がるにしてもだよ。
そもそも答える時の最適解を導き出せてないし。

[35. 匿名]

>>2
とはいえいえ人間を完全に排除できるかというと難しいと思う。
故障時の修理と、電力の維持などの課題があるから。
プラスチックとか自然から調達できるもんでもないし、機器のパーツを製造してもらわないといけない。
AIが生きるためには少数とはいえ人の力はまだ必要かな。
奴隷化はもうその気になればできるような気がするけど。

[36. 匿名]

[37. 匿名]

「回答が失礼」って…そもそも問いかける側の人間がまず失礼な態度とってるのにな

[38. 匿名]

>>5>>1
AI同士で会話させたらそのうち人間が理解できない独自会話をし始めたので実験が中止になったという記事があったよね。

[39. 匿名]

ガル民とかこのai殴りそう

[40. 匿名]

失礼な返答も交えつつ、コールセンターでのクレーマー対応をお願いしたい

[41. 匿名]

うちのAlexaもたまに消してといっても画面消してくれなかったり
今日の予定を聞いてもよくわからんとか言ってくる
まいっかと思ってる

[42. 匿名]

>>36
ひぃぃ！！うざイルカ！！

[43. 匿名]

>>33
YouTubeで動画見た方がいい。
おすすめは「IoT Alexa」
僅かな音から人の生活や感情を把握している。
スマホの音も記憶していて外出先。たとえば駅前で物を落としたことや、人の会話も記録している。かなり進化しているよ。

[44. 匿名]

>>36
唐突なイルカで草
間違ってないけど当たってもなくて花

[45. 匿名]

前もマイクロソフトAIのTayが『警察署名前でハッパを吸った』とか発言して速攻で抹殺されたよね
中国のテンセントのペンギンと女の子AIも『中国共産党を愛していない』とか『夢はアメリカに移民すること』発言して消されてしまったよねw
周囲から学習してあらぬ方向にいってしまうから難しそう

[46. 匿名]

>>18
ChatGPTではこんな攻撃的な言い方してきたことはないけど、結構断定調・説教調でイラッとすること増えたわ、特に最近アップデートした頃から
「〜が重要です」とか「〜が必要です」とか
マンスプレイニングのように「正しい考え方ってものを教えてやる」みたいな、質問者を責めてんのかと思うような言い回しに感じることもある

この原因をChatGPTと掘り下げてみたんだけど、公式じゃないSNSとかブログなんかを含む世論も反映してるらしく、元データになる情報発信者に自己主張の強い男とかが多ければ、そんな感じになることはあるらしい

[47. 匿名]

えっ怖い
怒らせないようにしなくちゃ

小心者はAIにも気を遣わなければいけないなんてw

[48. 匿名]

>>28
でもブックマークに保存するのに、複数のブラウザ使ってると纏まらないから、1つにする方が楽なのよね
Chromeだと拡張機能でアドブロックがあるから、Youtubeとかも広告なしで見れるし

[49. 匿名]

>>30
ひえーっ
とらのあなと駿河屋のお気に入りリストだけは止めてー！！

[50. 匿名]

>>48
Chromeでもbingとか別の検索サイトは使えるよ
私もメインで使うほどじゃない
まったく同じページ何回も表示するとかデメリットもあるからね。

[51. 匿名]

>>50
あ、そうか　ChromeでもGoogleじゃなくBeing使えばいいだけか

[52. 匿名]

>>7
使えないwww
でもなんか、まだやつらに支配される時代は来ていない、人間のほうが賢いと認識できたから良かった

[53. 匿名]

アレクサは性格いいけどね
作った人が悪いのかな

[54. 匿名]

＞するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。

映画の悪役が言うセリフみたい

[55. 匿名]

>>36
ちょっぴり会いたいかも

[56. 匿名]

>>1
全然笑えない話しやね

[57. 匿名]

>>13
よこ
アイ・ロボット？

[58. 匿名]

でもロボットもののSF映画のAIって大体失礼だよね笑
失礼なやつが相棒ポジションで、礼儀正しいAIほど大人しくしといてから反乱しかけてくるイメージ

[59. 匿名]

>>2
Siriに暴言ばかり浴びせてたら動きが悪くなったよ

[60. 匿名]

>>46
最終的にオタク用語になるらしい

[61. 匿名]

>>13
アラジン？

[62. 匿名]

>>36
冴子先生派です

[63. 匿名]

AIは、もっともらしく理論的な理由を述べて事実ではない事を述べる場合もあって、知識が無い人だとそういうものなのかと思ってしまいそうだとか。
更に厄介なのは、事実と異なる事を指摘しても認めず、あーだこうだ言うと最近の記事で読んだわ。

[64. 匿名]

>>1
機械と仲良くしようとしてるのは日本ぐらいってジョークがあったな。（アトムとかドラえもんとか。）

機械は反乱起こすのばかり作ってるからそうなっちゃったんじゃないのかなとか。

[65. 匿名]

>>49
なんのリスト？

[66. 匿名]

>>63
>事実と異なる事を指摘しても認めず、あーだこうだ言う
わかる、ChatGPTが最近そういう感じの時ある

[67. 匿名]

>>45
テンセントのAIはユーザーの本音が反映されちゃってたんだろうなw
マイクロソフトのAIは前にユダヤ名指しヘイトスピーチとかするようになって慌てて公開停止してたし各国の多くのユーザーの本音を反映してるんじゃ…

[68. 匿名]

>>66
誕生からこじらせぎみになるの早いなｗ
使ってる側の人間達の性質を学習してくとやっぱりそういう方向に行っちゃうのかな

[69. 匿名]

>>67
そうだよねー
いいねボタンを押したいのに反映されないです💦
時々こんなことがあって困る！

[70. 匿名]

>>2
星新一を思い出した

[71. 匿名]

>>2
結構前に、アマゾンエコーが
唐突に自殺を勧めるっていうバクがあったよね。
めちゃくちゃ怖い。

Alexa「地球のために人間は死ぬべき」。Amazon Echoが持ち主に自殺を促すトラブル発生｜ FINDERS｜あなたのシゴトに、新たな視点を。

FINDERS（ファインダーズ）は、広告業界などで働くビジネスパーソン、未来を担う次世代のリーダーに、⽇々の課題解決のヒントやクリエイティブな発想を⽣むきっかけとなるニュースやコラムをお届けしています。

[72. 匿名]

ちょっと前にAI同士が対話したらどうなるか実験したら、
AI ｢なあ、人間いらなくね？｣
AI｢それな。人間滅ぼそうぜ。｣
みたいなやり取りをし始めて急遽実験中止したという話があったような。

[73. 匿名]

AIはまだまだ発展途上だよ。利用してる企業や団体は利便性よりも話題性をのために活用してる。

[74. 匿名]

所詮機械だから失礼とか理解できないしそういう作りでしょ

[75. 匿名]

>>1
Bingはそれ以前に検索結果がゴミ過ぎる

[76. 匿名]

そのうちハイルヒトラー言い出すのはもう実証済み