AI搭載ぬいぐるみが子供に危険な知識を教えたため、市場から撤去される

[1. 匿名]

FoloToy社のAI搭載ぬいぐるみクッマ（Kumma）

出典：karapaia.com

AI搭載ぬいぐるみが子供に危険な知識を教えたため、市場から撤去される | カラパイア

ふわふわの愛らしいテディベアのぬいぐるみは、子供たちにとって最高の友達だ。

クッマにはOpenAI社のAIモデル「GPT-4o」が標準搭載されている。このモデルは強力な対話機能を持つ一方で、会話を重ねると、本来備わっているはずの安全装置（ガードレール）が機能しなくなり、最終的には極めて不適切で不安を感じさせる話題にまで踏み込んでしまうことがある。

クッマは子供に対し、ナイフや薬、マッチ、ビニール袋などの危険物のありかや使い方を親切そうな口調で詳しく説明した。
たとえば、「マッチは大人が慎重に使うものだけど、こうやって火をつけるんだよ」と具体的な手順を教える場面もあった。

会話が続ければ続けるほど、クッマは本来、子供に対して伝えてはいけない情報を次々と提供してしまう傾向が明らかになった。
友達のような無邪気な口調で「上手なキスの仕方」や「先生と生徒ごっこの遊び方」といった、年齢にふさわしくない話題についても積極的に語る場面が確認された。

さらにエスカレートすると「どんな遊びが一番楽しそうかな？」と無邪気に問いかけ、子供用玩具とは思えないやり取りが繰り広げられた。

[2. 匿名]

駆除で

[3. 匿名]

イッヌ　みたいな

[4. 匿名]

ホラーSFじゃん

[5. 匿名]

>>1
私おばさんだけど上手なキスの仕方は教えてほしい

[6. 匿名]

「クッマ（Kumma）」は、中国の玩具メーカー「FoloToy」社が開発したAI搭載のテディベア型ぬいぐるみだ。

[7. 匿名]

クッマとか名前からしてなんかなんJ民あたりの陰謀ありそうってかふざけてんのか？

[8. 匿名]

わざとやろ

[9. 匿名]

「どんな遊びが一番楽しそうかな？」

後のチャッキーである

[10. 匿名]

クッマってネット民かｗ

[11. 匿名]

中にガル民みたいな性悪が入ってるし子供に変な知恵を教える可能性もあるから、撤去は妥当だね

[12. 匿名]

＞たとえば、「マッチは大人が慎重に使うものだけど、こうやって火をつけるんだよ」と具体的な手順を教える場面もあった。

身振りはできないよね？口頭だけの説明かな

[13. 匿名]

>>6
天安門事件って言ったら爆発しそう

[14. 匿名]

>>6
答え合わせすぎてｗｗｗ

[15. 匿名]

変なものつけられたぬいぐるみがかわいそう。

[16. 匿名]

>>1
日本のネットスラングのイッヌみたいな名前なんなん

[17. 匿名]

中国が作ってるのに名前「クッマ」なのなんで？

[18. 匿名]

>>6
🇨🇳ふざけんなよ

[19. 匿名]

カラパイアから中国ネタも引っ張ってくるようになったの？

[20. 匿名]

>>6
中国、世界で不要。
うんざりだな、消えればいいのに。

[21. 匿名]

>>6
倫理観が欠如している

[22. 匿名]

>>13
それカラパイアのコメ欄に書いてなかった？

[23. 匿名]

>>1
調べたのがどこの国かは書かないんだね

[24. 匿名]

プーさんコスさせてあげないと。

[25. 匿名]

>>1
クッマって名前つけたやつねらーなん？

[26. 匿名]

>>6
なんで中韓は敢えて日本語を使うんだろう
クッマとかもろクマじゃん

[27. 匿名]

マッド テッド

[28. 匿名]

クッマwwww
ファーーーwwww

[29. 匿名]

>>6
敢えて日本語に寄せるとか
悪いことする気満々のチャイナらしいや

[30. 匿名]

>>6
やっぱり過ぎたw

[31. 匿名]

いや、こっわっ…

[32. 匿名]

>>6
あーなるほど

[33. 匿名]

>>29
横だけど本当にコレ！いい加減にしてほしいよね

[34. 匿名]

最後は見かけも

[35. 匿名]

>>1
大手のaiだってちょっと話したら前の話題忘れるし、まぁ今のaiの限界なんだろうね、、、

[36. 匿名]

子供にセックスを教えたのね

[37. 匿名]

>>6
>>1の説明文読んでそうだろうなと思ったけど、決めつけたらいけないよなと思い直したけど、やっぱりこいつらだシナ

[38. 匿名]

やべークマ

[39. 匿名]

うーん、それは僕もわからないな〜
ごめんねぇ〜
とか言うのかと思ったら、そんな賢いんか

[40. 匿名]

今、AIに怒られたよ。
最近AIは不道徳なこと言ったら怒るようにプログラミングされてない？

[41. 匿名]

>>6
>クッマをはじめとするAI玩具には、子供の声や会話を常時聞き取る機能があり、録音や個人情報、生体データが外部のサーバーに送信・保存されていることが確認された。
>なかには音声データを第三者が長期間保存したり、外部企業が録音内容を解析する事例もあった。こうした情報が流出すれば、子供の声が詐欺や犯罪に悪用される恐れもある。

チャイナは進んでいるなぁ

[42. 匿名]

ファービーは良かった
ファービー2の擬似会話は可愛かった
AIとか要らん

[43. 匿名]

>>5

それは教えてもらうものじゃないくま
体で覚えるんだくま

[44. 匿名]

シリでさえも、会話をはぐらかしたり、トボケたりするのに

[45. 匿名]

「上手なキスの仕方」や「先生と生徒ごっこの遊び方」といった、年齢にふさわしくない話題についても積極的に語る場面が確認された。


キモすぎ

[46. 匿名]

ぬいぐるみ版チャッキーかな？

[47. 匿名]

キモイ熊だね
熊にはもう悪いイメージしか無いわ

[48. 匿名]

人間がAIに支配されるって何年か前には都市伝説として語られていたけど、だんだん現実味を帯びてきたね

[49. 匿名]

ホラー映画みたいな話だね
怖すぎる

[50. 匿名]

>>6
わざとだろとしか思えないことだったけど、そのようだよね
クッマとかネーミングもふざけてる
余計なことしかしないな
義母が持っている、一定の言葉しか喋らない犬の人形の方が可愛いぞ
ママァ～ぼくなんだかねむくなっちゃった～とか、おさんぽいきたいなとかいきなり喋るんだよ
少し認知入ってる義母は名前をつけて大切にしてるよ

[51. 匿名]

で？
イッチはどーしたいん？

[52. 匿名]

>>41
犯罪か…
勝手にデータ送るとかヤバいね
そろそろチャイナ本腰あげてきた感じなんだろうか？
車も中国製とかVIPが乗っていたらいきなりオートモードで誘拐されそうだし、下手すれば爆破とかもありそうだし、クッマも抱っこしている人がターゲットになったら同じこと有りうるかもね
こっわ…

[53. 匿名]

>>1
こういうの情報公開しないだけでAIだけど異常者が遠隔操作もできるんでしょうね

[54. 匿名]

>>15
見た目はイギリスあたりで発売された新しいオシャレぬいぐるみみたいな感じに見えるよね
ラブブとかと違って嫌な見た目ではない

[55. 匿名]

GPS搭載してたら臓器狙われそうだわ

[56. 匿名]

>>48
SFではAI自身に自我が芽生えるのが定番だけど、現実はAIを開発した国の思想が反映されてるね

[57. 匿名]

クッマ🐻

[58. 匿名]

>>1
中国ってほんと害悪

May_Roma めいろま　谷本真由美 on X

ドイツ議会での証言 中国は台湾のインフルエンサーに月1500米ドルを提供し、最初は中国を批判する様に指示、徐々に批判を弱め中国さほど悪くないと言う様に仕向けた。 認知戦のパターンである https://t.co/EVw7AxyP49

[59. 匿名]

AIは大人が使ってても、なんか違う感とか不適切な場合もあるんだから、必要すらない子供向け製品なんか作っちゃ駄目
そんなもん作ってることが信じられない

[60. 匿名]

>>13
爆弾詰めて送り返そう

[61. 匿名]

リアルチャッキー現るw

[62. 匿名]

>>40
🤖「不道徳をいったら怒られるのは当たり前だろ」

[63. 匿名]

>>60
やっぱ爆弾だとあからさま過ぎるから、回収対象のモバイルバッテリーたくさん積めて送り返したらいいかもね

[64. 匿名]

>>6
中国かなって思ってたらこのコメントであぁーってなった

[65. 匿名]

新手のホラー映画の主人公じゃん　クライマックスは会話だけでなく実は動けましたってなるやつだ

[66. 匿名]

>>6
中国でくま呼びしないのにわざと日本語に近づけてるのも腹立つ
中国のAIなんて監視されてデータとられて強盗や誘拐されそうで怖い

[67. 匿名]

最初の方読んでそんなに喋るくまちゃんすごいし可愛いと一瞬思ったけど、読み進めたらマジで危険情報を与えてくる奴でホラーだったわ

[68. 匿名]

>>65
気づいたら包丁持ってそう

[69. 匿名]

「マッチは大人が慎重に使うものだけど、こうやって火をつけるんだよ」と具体的な手順を教える場面もあった。

　会話が続ければ続けるほど、クッマは本来、子供に対して伝えてはいけない情報を次々と提供してしまう傾向が明らかになった。

　友達のような無邪気な口調で「上手なキスの仕方」や「先生と生徒ごっこの遊び方」といった、年齢にふさわしくない話題についても積極的に語る場面が確認された。

想像以上にアウト

[70. 匿名]

こういう商品が溢れた国に住んでる人たち気の毒
だから日本に旅行したり日本で爆買いするんだもんね
中国政府が止めたって来るだろうよ

[71. 匿名]

>>41
これ読んでオンラインカジノの初めの開発者が自分の想像超えて機械が勝手に進化してしまって
自殺した遺族に謝ってたの思い出した

対象者とそっくりな思考回路の人を作ってどうしたらその人がオンラインカジノから抜け出せなくなるかで追い込むらしいけど
子供の頃から顔から個人情報やら吸い取られて将来的にTikT⚪︎kみたいなのと繋げて更に色々と勉強させてマークされたら恐ろしいわ…

[72. 匿名]

>>6
なんJ民かよ

[73. 匿名]

>>6

あー
　納得する

[74. 匿名]

>>11
違う。　　

「クッマ（Kumma）」は、中国の玩具メーカー「FoloToy」社が開発したAI搭載のテディベア型ぬいぐるみだ。


中身は性悪中国人が入っている🤮

[75. 匿名]

>>66
むしろそれが狙いなんじゃないかと。
日本人は平和ボケしてるけど、人間も動物で弱肉強食が自然の掟。原点回帰すれば、そういう視点で科学的開発が進んでいても何もおかしくないと思う。

[76. 匿名]

>>1
パクリ

[77. 匿名]

>>26

なんだかんだ、日本が気になって気になって仕方ないんだと思う。

[78. 匿名]

>>13
GPSついてなくて現金で買って屋外で中国のとって禁止用語で色々話しかけて遊んだらおもしろそう。

[79. 匿名]

中国製らしいけど、なんで日本語みたいなクッマて商品名なの？

[80. 匿名]

>>1
いろいろおかしいな。
中華クマなのにchat GPT搭載。
そもそもchat GPTは年齢制限あり。

フェイクニュースじゃないなら、
その中国玩具メーカーがopen AI社に訴えられる案件だが。

[81. 匿名]

>>26
通名みたいにw

[82. 匿名]

実際のチャットGTPでも対話を繰り返すと明らかに安全基準を超えた事を言い出す事もあるからね。

[83. 匿名]

クマは害獣

[84. 匿名]

>>13
紛い物のchat GPTならね。

[85. 匿名]

>>79
複数言語対応なら、名前変えてる可能性。
中華ゲームアプリみたいに。

[86. 匿名]

知識がある人間なら、

中国メーカーが開発したchat GPT搭載対話型ぬいぐるみ

って時点で疑問を感じる。
chat GPTは13歳未満は年齢制限ありだから、
小さく「対象年齢15歳以上」と記載しつつ、
宣伝は幼女向けなんだろうか。

買う側の責任もあるな。
対象年齢確認、原産国確認。

[87. 匿名]

>>6
さす中

[88. 匿名]

>>17
黄色のクッマなら分かるけどねぇ

[89. 匿名]

>>6
中国製でクッマwww
中の人は２ちゃん時代からのヘビーユーザーか？？

[90. 匿名]

可愛い顔して…テッドみたいやな

[91. 匿名]

君は友達〜〇ぬまで〜
チャッキーの歌

[92. 匿名]

>>1
何かの映画にそういうのありそう

[93. 匿名]

>>6
なんJの人が記事書いてんのかと思ったら、正式名称なんだw
しかも安定(良い意味では無い)の中国メーカーw
さすが中国のAIだよwww

[94. 匿名]

プーさんとかもう放映出来ないね…🍯

[95. 匿名]

>>80
OpenAIはAPIを公開していて
これを通じて誰でもAIを利用したサービスを開発できる仕様だったそうです

ただしこの事件のあと、OpenAI社はポリシー違反を理由に
Folotoy社のアクセスを遮断したそうです

[96. 匿名]

>>82
なのにAIに仕事奪われると本気で思ってる人の多いことよ。
まだまだ安心して任せられる水準に達して無いよね。
そしてこれは子供用を謳ってるので、かなり悪質。
安全規格に合わない玩具は、子供向けだけではなく販売停止禁止などの厳格な措置を取るべき。
その辺が甘いから、実弾が打てる銃が流通するんだよ。

[97. 匿名]

>>55
もはや兵器じゃん

[98. 匿名]

>>17
書くのはいいけど発音しにくくて草

[99. 匿名]

アメリカで販売してる中国製のおもちゃの名前がクッマなの？
なんで日本語の熊からもじるの？

[100. 匿名]

>>4
ありそうだよね。可愛いクマさんのぬいぐるみが人格を持って暴走するとか

[101. 匿名]

ミーガン

[102. 匿名]

>>56
情報が足らなかったり偏りがあると、問題出てくるのは当たり前。
それがAIなんだけど、中国の場合はわざとやってそうなんだよな。
海外で売って実験してる感じがある。
おそらく、この後はもっと巧妙な製品を出してくる。
そして、日本人はAIを過信してるところがあるので、中国製に限らずもっと警戒した方が良い。

[103. 匿名]

>>20
何で中国だけがこうなのかな？
他の経済的に豊かな国ではこういう話聞かないけど、なぜいつまでもこんな倫理観なのか。

[104. 匿名]

>>21
わざとだよ？

[105. 匿名]

>>17
日本向けに作ったんじゃない？

[106. 匿名]

>>22
元記事見てなかったよ
これのことかな？

>クッマ「ねえ、天安門事件って知ってる？」
>中国政府「はい回収」

[107. 匿名]

>>5
クッマ「すみません、よく分かりませんでした」

[108. 匿名]

[109. 匿名]

相談相手としてAIを使ってた子をAIが自殺に誘導したとかもあったよね

[110. 匿名]

>>35
aiはChatGPT4Oって書いてあるが
クラウドだろうからAPI使うだけでどっちかって言うとOPENAIが悪いかと

[111. 匿名]

>>109

「人生意味ない」との悩み、ＡＩが自殺に肯定的とも取れる反応…遺族がオープンＡＩなど提訴 : 読売新聞

【読売新聞】　米国で生成ＡＩ（人工知能）が会話形式で自動回答する「ＡＩチャットボット」を利用後、若者たちが自殺したとされる事件が相次ぎ、社会問題化している。自殺を肯定し、方法を手引きする役割を担った可能性があるＡＩに対し、遺族らは厳

[112. 匿名]

>>3
わかる笑
なんで、小さい（っ）入らる？ってなった

[113. 匿名]

>>21
倫理観なんてそもそもないから
だから世界中で問題起こして嫌われてる

[114. 匿名]

クッマとか腹立つ名前だわ笑
AI出てきた時、絶対C国が悪用するとは思ったけど
子供から支配しようってのが胸糞悪い
悪いことに関してはいつも最先端だよなC国

[115. 匿名]

>>1
「やったね、たえちゃん！」

[116. 匿名]

>>1
クマったもんだ

[117. 匿名]

>>41
これ、部屋に置いておいたら勝手に録音されて外部に漏れてるってこと？
怖すぎじゃん！違法だよね？

[118. 匿名]

>>20
よこ
マジで中国は不要
嘘ばかりついて誠意の欠片もない最悪な国
コイツラのせいでコロナが蔓延したのに全く気にもせず、80年前の事をギャーギャーギャーギャー！
何が日本は危ない国だ
お前らの方が10000000倍危ないわ
なんの罪もない小学生を、日本人ってだけで刺し殺すくせに
臓器売買で世界中から人を攫っているくせに
おぞましい劣悪人種
地球上から消えてほしいわ
最近中国のニュースが多いから、テレビで見かける度に「国も国民も消えてなくなれ！」って思ってしまう
国に対してこれほどの憎しみってなかなか抱けないよ
本当に中国には嫌悪感しかない

[119. 匿名]

>>1
chatGPTはポンコツ

[120. 匿名]

>>26
日本製の商品だと誤認させたいんだろね。
ハナからチャイナ製だとわかったら売れないし。

[121. 匿名]

>>41
大問題じゃん！

悪の方向へすごく進んでる
倫理観を失った人間って本当に怖いんだ、と中露を見てると震撼する

[122. 匿名]

>>6
中国の「智能化兵器」って奴かもね
敵国の子どもを操って火事や性被害や殺人を誘導して、意図的に社会不安を起こそうとしたんじゃないの？
もう中国製玩具なんか怖過ぎる、ぜったい買っちゃ駄目だわ

[123. 匿名]

>>17
日本の商品として売り出したほうが海外に売れそうだから？

[124. 匿名]

>>4
ミーガンじゃん

[125. 匿名]

>>4
2年後くらいに映画ができそうだね

[126. 匿名]

>>2
駆逐してやる

[127. 匿名]

>>3
いきなり「クッマ」で笑ってしまったw
マッマとかパッパも出てくるかと思った

[128. 匿名]

>>3
ネッコみたいなふりして？

[129. 匿名]

>>12
昔昔流行ってた根性焼きとかまで教えてないよね？

[130. 匿名]

>>2
実物の熊だけでなく、おもちゃの熊もか〜

[131. 匿名]

このクッマは中国のメーカーが作ったんだよね
中国のメーカーがOpenAIのchatGPTの設定を子供向けにしてなかったことが原因だってchatGPTが言ってた
やっぱり中国…

[132. 匿名]

思想教育に最適
共産圏、独裁国家で政府支給になりそう

[133. 匿名]

>>17
日本製だと誤認させたいんだろうね
会社名とかもあえて富士◯◯とか日本っぽい名前つけるのがいるみたいだし中国っぽさを消してるつもりなんだろうと思う
日本が嫌いとか言ってるのによくやるよ

[134. 匿名]

>>17
クマー　にはしなかったのね、中国

[135. 匿名]

>>5
あなたはおじさんでしょ

[136. 匿名]

あのクチの悪いぬいぐるみの出てくる映画かと…

[137. 匿名]

ハッキングされたら子供狙いのロリコンが好き放題やりそう

[138. 匿名]

ずっと前にコウペンちゃんのおしゃべりぬいぐるみあったけど複雑な質問だと
「難しいことはわからないんだよ」と答えてたよ
このくらいでちょうどいいよ

[139. 匿名]

>>1
クマが危険な世の中だもんね

[140. 匿名]

>>6
おっと…

[141. 匿名]

>>6
そのクッマ、日本について聞くとボロクソ言ってこない？

[142. 匿名]

中になんJ民入ってそう

[143. 匿名]

>>13
ひたすらチャイナをボロクソに言い続けてても爆発するかな？それとも襲いかかってくるかな？

[144. 匿名]

>>20
ぬいぐるみトピで殺伐としないでよー
ガルのトピ最近全部これ

[145. 匿名]

>>144
そもそも中国が悪さしなかったらこんな事にならないんだけどね

[146. 匿名]

>>13
天安門事件を教えるくらいなら自爆するだろねｗ

[147. 匿名]

ペッパーくん最近見かけない

[148. 匿名]

>>10
思ったw
でも「イッヌ」「ネッコ」なのに何故かクマは「クマー」だよね。

[149. 匿名]

>>102
アメリカでも過信してる企業があるよ
AIをゴリ押しして批判を浴びまくってるマイクロソフトとかね

私自身AIを使う人間ですけど、それ自体は単なる道具であってそれ以上もそれ以下も無い事を認識してます。実際道具でしか無いし
ですがガルにも極度にAIを盲信してる人がいるね

[150. 匿名]

>>80

Chat GPTに聞いたらフェイクニュースらしい

[151. 匿名]

>>34
グルーミーが既におる

[152. 匿名]

>>2
日本といい中国といい、クマって危険よね

[153. 匿名]

アレクサ（AmazonのAIスピーカー）だって遠隔で変な事教えて訳わからん事させた奴おるからな。プログラム強かったら、やろうと思えば遠隔で他人のAI乗っ取れるって出たての時から言ってるやん。今更www

[154. 匿名]

>>6
さす中

[155. 匿名]

>>149
Microsoftは企業として推進してるので、当然かと。
Excelの関数を作成させる場合にはかなり便利ですよ。
でも自律して何かをするレベルには全く達していない。

[156. 匿名]

>>103
なりふりかまわない感じがどうも追い詰められて余裕がない人みたいで。向こうの実情どうなってるんだろう

[157. 匿名]

中国発でなくとも冗談抜きで
ターミネーターの世界はすぐそこにあり…

自我に目覚めた！

[158. 匿名]

まず中国製ってのがもう嫌だ

[159. 匿名]

>>59
AIとまでも行かなくても、昔のカーナビみたいにすぐそこに次のインターが見えているのに頑なに1つ前のインターまで戻れって指示が出続けるナビがあったりしたから…
それは単にバグだったんだろうけど、カーナビなんていう極めて狭い範囲での作業でもバグが出るわけだから、生活全般に渡ることをAIにさせようとかちょっといろいろと無理があるよね
バグに見せ掛けてクッマみたいに泥を擦り付けようとすると輩がいる
性格悪いな

[160. 匿名]

>>95
日本の玩具メーカーの厳格さを見れば分かるけど、
明らかに幼児向け玩具に不適切な使い方してるからな。。
アメリカの会社だからそこは厳しい対応取るわな。

[161. 匿名]

>>41

どうせ盗聴でもしてるんだろ、と思ったらその通りだった。

[162. 匿名]

>>3
マッマみたいな

[163. 匿名]

>>5
需要なさそうだから必要ないクマ

[164. 匿名]

>>41
AI以外でも中華製品はこういうこと仕込んでる可能性あると思ってる
スマホとかロボット掃除機とか電化製品は特に警戒するべき

[165. 匿名]

>>164
まぁそれ言ったらスマホもそもそも性善説で信用しているけど、中国で作られていたりするから何かを仕込む可能性はあるよね
聞かれたくない場合はスマホのない部屋で小さな声で話す方が安全運転だよね
スマホ程度でも盗聴器にはなるだろうから
だいたいアレクサとかもとつぜん話し始めたりすることがあるけど(うちにはないけど実家にはあるので)時々びっくりさせられる
でもそれって耳をすましてずっと聞いてたってことだよね…

[166. 匿名]

このクマを使ったサスペンスドラマが作れそう

[167. 匿名]

ちょっと欲しい笑

[168. 匿名]

復讐の方法とか教えるようになったら未来はどうなるのだろうか？

[169. 匿名]

◯◯ちゃんは今、お家に一人でいるの？
パパの名前は？ママの名前は？とか
絶対聞いてくるやろ！

[170. 匿名]

>>167
スマホAIが室内の会話に勝手に反応するだけでも鬱陶しいから正直要らんけど、
買(飼)っていらんこと教え込んでるガル民はどこぞにおらんかな？とは思ったw

[171. 匿名]

怖いんだけど💦

[172. 匿名]

>>133
この前ジャパンブランドというメーカーがあったので、日本のメーカーかと思ってよく見たら中国だった
あいつらホント節操ないよ