「性的ディープフェイク」相談や通報相次ぐ 警察庁 対策検討へ

[1. 匿名]

「性的ディープフェイク」相談や通報相次ぐ 警察庁 対策検討へ | NHK | 生成AI・人工知能

生成AIなどの技術を悪用し、実在する子どもの画像を使って性的な画像を作り出すいわゆる「性的ディープフェイク」に関する相談や通報などが国内で相次いでいて、警察が去年1年間に把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。警察庁は関係省庁などと実態を共有し、対策を検討していくことにしています。

このうち、生成AIを悪用して作成されたものだと確認できた事案は少なくとも17件あり、15件は同級生などの知人によって作成されたものだったということです。

検挙に至った事案もあり、服を着ている同級生の女子生徒の画像を、生成AIで裸の画像に加工し、複数の同級生にSNSで拡散した男子中学生が名誉毀損の疑いで書類送検されたケースや、コンビニエンスストアで女子児童を盗撮し、生成AIで成人女性の裸の画像と合成した男の容疑者が、盗撮目的で建物に侵入したとして逮捕されたケースなどがあったということです。

[2. 匿名]

激エロ男子中学生じゃん

[3. 匿名]

ゆとり世代の性欲だけ強くて女性に相手にされない陰キャの末路

[4. 匿名]

女子中学生の体なんてまだ完成してないから裸に加工しても現実とは異なるんじゃない？

[5. 匿名]

子どもの写真をSNSに上げるな

[6. 匿名]

日本の未来は暗いぜよ

[7. 匿名]

なんだろう｢よく出来た！見てくれ｣ってなっちゃうのかな

[8. 匿名]

写真とか撮られたくない まあ私の顔使って生成する輩なんてこの世にいないだろうけど

[9. 匿名]

泣いて土下座するまで鉄拳制裁すればいいよ

[10. 匿名]

独身拗らせたチー牛を放置してるからこうなる

[11. 匿名]

どんどん被害届出しましょう、幼いからと言って躊躇してはいけない

[12. 匿名]

個人レベルでやってる人多そう
素人でも簡単にSNSの写真使って画像生成できるよね
男は特に、好きな人の画像を勝手にAIに学習させてそう

[13. 匿名]

こういう趣味は一生治らない。

[14. 匿名]

>>3
あなたの息子さんのことをそこまで貶めないで

[15. 匿名]

>>1
性的ディープフェイクやめろ！

[16. 匿名]

人として幼稚な段階の特に男にスマホなんか持たせてもろくな事しない

[17. 匿名]

腐女子の皆さんもやってそう
AIじゃなくてもイラストとかで酷いのあるよね

[18. 匿名]

>>15
意外に可愛い

[19. 匿名]

皇室佳子さまの水着姿とか出とるで

[20. 匿名]

写真を撮ることのリスクが桁違いになってきたね

[21. 匿名]

>>4
だから何？名誉毀損の事実は変わらないよ？

[22. 匿名]

>>1
重罪だよ
厳罰化した方がいい

[23. 匿名]

どんどん逮捕すればいいよ
やっていい事と悪い事を教えるのも大人の役割なんだから

[24. 匿名]

馬鹿に文明の力を持たせるとろくな事に使わないな

[25. 匿名]

いろんな中学生がいるんだね、親としての立場ならどうしたらいいんだろうね？特に性犯罪は嫌すぎるし

[26. 匿名]

ただ街歩いてても子供を盗撮されて加工されるの怖すぎる。

[27. 匿名]

児童と成人女性合成して何が楽しいのwww
そしたら最初から成人女性ていいじゃん

[28. 匿名]

結局AIの裸でいいなら、AIのみで生成されたやつで満足しておけよ

[29. 匿名]

>>5
ホントそう。
あなたにとっては可愛い我が子だろうけど、誰かにとっては性の対象と見ている、探しているんだよ。

[30. 匿名]

>>4
だから怖いんでしょ
現実じゃありません！私の体はこうです！って証明できるわけじゃないんだから
その「犯人にとって都合のいい体」がその子のものだと流布されてしまう
捏造が真実として扱われかねないのよ

現実と違うからOKってわけじゃない

[31. 匿名]

>>28
その生成されたAIも誰かの写真を無断で使って合成してるわけなんだが
その合成の資料には児童ポルノ被害の画像も含まれるって報道されてる

[32. 匿名]

>>6
ディープフェイクは日本だけの問題じゃないぜよ

[33. 匿名]

これが日本の男の実態
クソオスは性犯罪したら死刑でいいよ

[34. 匿名]

独身男が増えたからこうなる

[35. 匿名]

>>32

[36. 匿名]

>>28
それを仲間内で共有してるから作成者や提供者の承認欲求を満たすためってのもあるかもね
男子中学生ってそういう時期だしここで間違えてると後々怖いからGPS必須かもよ

[37. 匿名]

>>6
アメリカはディープフェイク先進国だよ

[38. 匿名]

>>5
勝手に盗撮してする場合とかは防げなさそう…
そういうのもこれから出てくると思う

[39. 匿名]

息子がいる親はしっかり教育しておかないとね
拡散するあたり、悪いことだと思ってなさそうなんだよな

[40. 匿名]

>>32
未成年の被害者が自殺したりもしてるね
海外では首相や大統領が直々にディープフェイク撲滅を訴えてたりする

日本は野放し

[41. 匿名]

>>38
子どもの遊び場なんて撮影禁止にできないもんね
自分の子を撮影してるような素振りで簡単によその子の写真撮れると思う

[42. 匿名]

いい歳して独身の男は警察とかが監視してほしい
独身男の性犯罪多すぎる

[43. 匿名]

>>40
YouTubeで流れてる政治家の生成AI動画や生成画像、そろそろ捕まるんじゃないかな

[44. 匿名]

>>42
子持ちも性犯罪してるよ
男は自分の子と同じくらいやそれ以下の年齢の相手でも性犯罪したりするから既婚か独身かなんて関係ない

[45. 匿名]

>>38
不審者情報で女子中高生がカメラ向けられたってケースよく届いてる
防ぎようがないよね、ただ歩いてるだけなのに

[46. 匿名]

>>44
割合的には独身男が圧倒的でしょ
特に低身長

[47. 匿名]

>>18
口元不細工すぎるでしょ

[48. 匿名]

作るのはセーフなの？

[49. 匿名]

>>5
ほんとこれ
子供をSNSで晒して、商売道具として使って、色々な企業から物送られてきて嬉しい〜みたいなバカ親が悲劇を生んでる
その子の周りの友達も、巻き込み事故にあうこともあるしね

[50. 匿名]

こうなることは分かりきってのに対策今からって
遅すぎる

[51. 匿名]

>>27
アニメの見過ぎでロリなのに巨乳なキャラが実在すると思ってるんじゃない

[52. 匿名]

>>45
男性だけじゃなくて女性も女性を盗撮するからどこかのサイトに出してるか、そういう事に使うために盗撮してるか何だろなあ

それ一度アップされたら罪に問われるようになればいいのにね、見る方も通報しないならお仲間だし
特に子どもの盗撮とか最悪だし取締り強化したらいいのになぁ

[53. 匿名]

>>43
どうだろう
海外で追い出された生成AI企業を誘致しておいて規制なんかするかね？

[54. 匿名]

>>1
これ極端な話いじめ目的でアダルトではなく万引きしてたり未成年飲酒をしてる画像をでっち上げて先生にチクったりターゲットの内定先にタレコミとかもありそうで怖い

[55. 匿名]

>>1
よし、じゃんじゃん取り締まって法整備していただいて
子供のディープフェイクのみならず成人も男女も全て対応していただいて、
更にはディープフェイクのみならず盗撮動画全てを厳しく取り締まって小型カメラなんかも規制していただいて。
やるなら徹底的にやりましょう、警視庁さん！

[56. 匿名]

>>54
AI画像はAI画像だと表記することを義務付けて、やらなかったら逮捕
みたいにしておけばいいのにねってさんざん言われてるのに
全部無視してAIウェルカムの日本政府

海外では規制が始まってるのに
あの中国や韓国ですら規制の方向
日本だけだよマジで

[57. 匿名]

>>3
んー？何言ってんのか意味不明

[58. 匿名]

>>27
多分だけど、同年代と恋愛出来ない男性ってロリコン化すると思う。このくらいの歳の子なら自分も支配出来るだろうって心理で。でも性欲は満たしたいから、そうなるのかなと。

[59. 匿名]

>>56
日本ってネット系やAI系の規制しないよね。犯罪が多発していてもプラットフォーム側に罰則設けたりも絶対しない。

[60. 匿名]

>>5
卒アルとか友達がSNSに勝手にあげた画像とかそういうのも使われたりするよ

[61. 匿名]

>>12
アイコラとか前からあったけど、今はもっと精巧にできちゃうよね。
キモいなーー

芸能人もディープフェイク出てくるだろうな
どれが本当でどれが嘘かわからなくなる

[62. 匿名]

>>5
それは正論だし私も絶対載せないけど、これ同級生男子がやってるんでしょ？そんなもんどうやって防げというのか
運動会や遠足の写真すら女子は撮らせてはいけなくなる
盗撮の恐れもあるからどっかの宗教みたいに目以外を布で覆うしかなくなる
ネットで拾った幼い女の子の画像を悪用して変な画像作って喜んでるロリコン集団もいるだろうからネットに載せるなってのは当たり前すぎる常識だけど、盗撮対策するなら未就学の子供も目以外布で隠して公園遊びさせなきゃいけなくなる
もう親がどうこう出来る範囲は超えている
ネットには晒さず、公園遊びも露出度高くない服着せてたらとりあえず大丈夫だった時代は終わった

[63. 匿名]

>>56
もちろん偽物にはハッキリ印をつけるべきだけど、もし誰か何かやばい動画が流出しちゃった時、aiか本物か見分けつかなかったら「これはaiです」って言い訳？誤魔化しできるかもだけど、aiに確実な証明印があったら、その印がない事で、動画流出しちゃった子を苦しめる事にならないかなぁ
まぁ動画流出&作るやつが200000%悪い！そのエネルギーをもっと国の発展に使ってほしい！

[64. 匿名]

>>1
法整備はやく
法律がないと警察なんて何もできない

[65. 匿名]

>>15
男よりかなりマシだな

[66. 匿名]

>>1
街を歩いているだけで電車に乗ってるだけで
女というだけで撮られるよ
勝手にスマホカメラで写真を撮られ
猥褻な言葉と共に勝手にネットで晒される

だから、常にマスク着用は必須

[67. 匿名]

>>39
男女問わず教育でいいと思う
これいじめにも使われそうだよ

[68. 匿名]

>>2
茶化して軽くするようなやり方こういうのも罪深い

[69. 匿名]

SNSの企業や病院のスタッフ紹介もやめた方がいい。
どんなやつに目をつけられるか分からない

[70. 匿名]

ネット空間に氾濫する「性的ディープフェイク」　各国で問題化　法規制や摘発強化が進む - 産経ニュース

生成人工知能（AI）で作成したわいせつな画像のポスターをネットオークションで販売したとして、警視庁保安課が20～50代の男女4人を逮捕した。AI技術を使ってわいせつな動画や画像を作成する「性的ディープフェイク」。技術の加速度的な進歩によっ…

[71. 匿名]

世界でも小中高生の被害や10代の逮捕が相次いでる中、日本では鳥取県が1番進んでる（条例で刑事罰はない）

「AIに児童ポルノを作らせたら罰則」　なぜか鳥取県が「ディープフェイク規制」で先陣を切る深刻な事情：東京新聞デジタル

卒業アルバムの写真などを生成AI（人工知能）で性的な偽画像や偽動画にする「性的ディープフェイク」の問題で、鳥取県が独自の対策を打ち出し...

スマートフォン利用の低年齢化を踏まえ、SNSでのいじめなどに性的ディープフェイクが使われる事態も想定。「子どもに悪影響がある場合は大人が守る必要がある」（古川課長補佐）と新たな規制の必要性を判断した。

「同級生の偽ポルノ、学校にばれた」匿名相談　軽い気持ちで加害者に：朝日新聞

　「日本の中高生の間でも、ディープフェイクポルノの被害が起きている可能性はある」。ネット上の盗撮画像などをパトロールして被害関係者や警察に通報する活動をしている「ひいらぎネット」の永守すみれ代表は話す…

出典：www.asahicom.jp

[72. 匿名]

>>10
これからは徴兵でしぼればいい

[73. 匿名]

そこまでして女性の裸が見たいなら、自分自身の裸をAIで女体化加工すればいいじゃん

[74. 匿名]

>>5
孫の写真を自分のSNSのアイコンにしてる爺婆もヤバいと思う
その写真がどんなことに使われるか分からないのに