コナン君に「#歌わせてみた」流行曲、実はAI偽音声…困惑する声優たち「対処しようがない」

[1. 匿名]

コナン君に「#歌わせてみた」流行曲、実はＡＩ偽音声…困惑する声優たち「対処しようがない」　 : 読売新聞

生成ＡＩ（人工知能）を使い、声優らの偽音声を作り出して無断利用した動画がＳＮＳに投稿される事態が相次ぎ、当事者らに不安が広がっている。勝手に曲を歌わせたり、文章を朗読させたりしていて、専門家らは、権利の保護や悪用防止のため、ＡＩの利用について一定の規制が必要と指摘している。

「コナン君に歌ってもらった」。今年７月、動画共有アプリ「ＴｉｋＴｏｋ（ティックトック）」などに、そんなタイトルの動画が投稿された。人気アニメ「名探偵コナン」の主人公・江戸川コナンの「声」と称して、アニメとは全く関係のない流行曲を歌わせた動画で、投稿者は「音声はＡＩで作成」としている。

コナンを演じているのは声優の高山みなみさんで、コメント欄には、「高山さんが歌ってるみたい」などと書き込まれた。高山さんの所属事務所「８１プロデュース」（東京）によると、音声の使用は一切許可していないという。

[2. 匿名]

ﾆﾝｹﾞﾝｲﾗﾅｲﾈ

[3. 匿名]

藤井一子のチェックポイント歌わせてほしい

[4. 匿名]

こういうの分からない人が多いよね。訴えられるよ

[5. 匿名]

「岸の子」アベドル（AI安倍晋三） - YouTube

君は完璧で究極のアイドル♪#推しの子 #アイドル メンバーシップ（信徒向け月額献金プラン）:https://www.youtube.com/channel/UCezcDa9BLe5CIF1lTLE1xxg/join投げ銭（単発献金用リンク、YouTube公式よりも中抜き少なめ）：https://streamlab...">

安倍晋三もあるよ

[6. 匿名]

人口どんどん減っていいよ
代わりにＡＩがやってくれる

[7. 匿名]

>>1

[8. 匿名]

ボーイズラブとか、18禁ゲームとか親に聞かせられないのだけAIにやってもらったらいいのに

[9. 匿名]

声優さん今までありがとう

[10. 匿名]

[11. 匿名]

なんで人間のやりたい仕事をAIが奪い、やりたくない仕事は人間がやらなければいけないなんて…！そんな未来嫌だ！！

[12. 匿名]

日本でのAI利用は規制が必要なのかな
モラルがない

[13. 匿名]

勝手に声優とかの声を自力で切ったり貼ったり編集して歌わせる人力ボカロって結構前からあったよね
AIだともっと精巧なのかな？

[14. 匿名]

結局こうなっちゃうんだよねぇ。。

私は好きなミュージシャンが近年ふざけた路線になってしまったので、AIを利用して本来の硬派路線の新曲を作らせたい（笑）

[15. 匿名]

声優なりたいって養成所に必死で通ってる子達可哀想だな。相当特徴ある声でもない限り底が見えてるような。

[16. 匿名]

TikTokこのAIカバー曲だらけ
ミセスグリーンアップルに歌わせてみたとか、Adoがもし何々を歌ったらとか

[17. 匿名]

もう人間働かなくていいんじゃない？

[18. 匿名]

技術の進歩に法律が追い付いてない

[19. 匿名]

ちょっとだけ聞いてみたい

[20. 匿名]

>>1
フェイクニュースもできるそうだね。

各国の政治家の発言とか、映像付きで、まったく違う発言させてた。
精巧な上、普段、ニュースなんてスマホ見たり、食事しながらみる程度だから、偽物だとわからないと思う。

[21. 匿名]

怖いよね
こんなことしてたら声優さんの仕事なくなっちゃいそうだし、言ってもないこと捏造されて本人が言ったことにされて拡散されたり、迷惑行為や犯罪を招かれてらようなことがあったら怖い。一般人だって他人事じゃない。
こういう規制なんとかしないと悪用されると思う。

[22. 匿名]

これとディープフェイク組み合わせたらドラマや映画撮れそう

[23. 匿名]

そのキャラクターのキャラソンがあるなら聴いてみたい、という気持ちはファンなら分からなくもないけど、勝手に作れるようになっちゃったら問題だよね
アニメの世界観を壊さないために、あえてキャラソンを出さないようにしてる作品だってあるのに・・・

[24. 匿名]

こういう権利侵害系も問題だし、わいせつとか詐欺とか犯罪にも悪用できちゃうよね…
規制が必要だと思う

[25. 匿名]

>>4
訴えても今の所お咎め無しじゃない？

[26. 匿名]

>>15
声優なんて子役上がりの見た目可愛くて業界のこともよく知ってるような使い勝手のいい人がたくさんいるから養成所なんて無駄だよね

[27. 匿名]

これはモノマネだよね？新しく一からオリジナルの声で歌う事は出来ないんだから声優の仕事を奪う事にはならないんじゃないかな？モノマネタレントの仕事は奪うかもしれない

[28. 匿名]

芸能界引退したアイドルグループの子が引退後に出た曲を歌ってる動画があったからびっくりしたけどAIだったわ

コメントでは「◯◯ちゃんがいる世界線が見れて最高！」って大絶賛だったけどやっぱりダメだよね

でも完全アウトかと思ってたけど違法ではないんだ

[29. 匿名]

>>24
ガチのプロが作ったai音声聞いたことあるけど
ホントにパッと聞いただけじゃ違和感に
気づかないよ。本人のサンプリングとか
ありきだけど。
契約や詐欺に悪用されて騙される年寄り
出ると思う。
マジで怖いよね。

[30. 匿名]

YouTubeにあの歌手があの曲歌ったらみたいなのたくさんあがってるよね

[31. 匿名]

>>25
声はどうしようもないけど、キャラ名出して収益出してるから普通に訴えられると思う
スルーされてるのが多いけど本来キャラクターってめちゃくちゃうるさいよ
特にコナンとか有名なやつ
ミッキーみたいな感じで

[32. 匿名]

>>4
インスタとかの画像や動画とかも勝手にまとめて動画にしてる人いるけど、あれもアウトだよね？
あと最近見るんだけど、漫画を載せてる人もいた。

[33. 匿名]

>>31
権利持っている側が訴えるかどうか次第なんだっけ？
そのせいかInstagramも著作権の通報は第三者からだと意味ない感じだった気がする

[34. 匿名]

>>26
養成所にいってもほとんど声優になれないってのは事実だけど
ほとんどの声優が養成所の在学中に事務所のオーディションとかを経由して
所属するのも事実である

[35. 匿名]

>>15
声優って言ってしまえば俳優崩れかアイドル崩れな人の終着点で目的地にするものじゃないって声優の人が言ってたな。
役者ではなく声優を目指してる時点で成り上がるのはほぼ不可能に近いらしい。

[36. 匿名]

こんな感じで声優の仕事が減るとしたら、歌手の仕事も減りそうだよね
作詞、作曲もAIで出来るだろうし、似たテキストの物は簡単に作れちゃいそう
芸術分野は特化した人以外厳しい時代になるね…

[37. 匿名]

どっかの番組がこれ紹介してて「凄いけど悪用されたら対処のしようがない」って出演者が困惑してたの覚えてる
それこそ自分の過激な思想や煽りを他人に擦り付けられるわけでしょ、怖いよね

[38. 匿名]

>>32
当然アウトだよ
逮捕者も出てる
なんで他人の作品を使って金やらアクセスを稼ぐ行為がセーフだと思えるのか

[39. 匿名]

>>28

うーん、なんかそれはそれで、その子の引退という決断をないがしろにしてるような気がするけどな・・・複雑。喜ぶファンもいるんだね

[40. 匿名]

名前を出すなら著作物使用料を支払うべきだけど、
YouTubeはそんなの蔓延してるからどこからどこまでがいいのかの線引きがわからないよね。

FFそっくりだけど微妙に違うだけのBGMが普通に使われてるけど、
あれもいいのか不思議。
著作物使用ではなくても、曲のパクリだと思うんだけど。

[41. 匿名]

>>36
絵描きなんかはとっくに晒されてる恐怖だよ
自分の作品を勝手に学習の素材に使われて「〇〇さんっぽいイラスト」が簡単にできてしまう
まじでアートや芸能分野はAIでぶっ壊れるよ

[42. 匿名]

他の声優でもあるよねAIカバーで歌わせてるやつ
昔みたいに明らかに合成音声みたいのじゃなくて本当に歌ってるみたいな自然なのも多い　　　　　

[43. 匿名]

>>15
今でこのレベルだから10年後はアニメの声は打ち込みになってる可能性あるよね

[44. 匿名]

>>13
私もニコ動でよく人力ボカロ見てたけど、正直比べ物にならないぐらいAIは凄い。

[45. 匿名]

>>13
TikTokにたくさん動画あがってて
本当に人間みたいでAIと区別するの難しい、少し前まで切り貼り感、カクカク感あったけどもう全然そういうのないよ

[46. 匿名]

>>11
本当に嫌だよね
でも上級国民みたいな人達からしたら、やってくれたらロボットだろうが人間だろうが関係ないんだろうね

[47. 匿名]

>>22
その技術もうあって海外ではかなり問題になってるよ
最近もハリウッドの俳優さん達がストライキ起こしてた

[48. 匿名]

アメリカで俳優がAI絡みでストしてるけど、日本の声優さん達も危機感募らせてると思う

[49. 匿名]

>>5
>>7
>>10
通報した
故人に対して不謹慎すぎる
作った人間も支持してる人間も、自分の感性がおかしいって気付いた方がいい

[50. 匿名]

>>32
YouTubeにガルチャンのまとめで稼いでる人いるけど、あれコメントした人達は勝手に使われてるんだよね？
私のコメントもあるのかな、嫌なんだけど…

[51. 匿名]

>>50
20年前から2chのまとめで稼いでる人はいるんだから今更すぎる

[52. 匿名]

>>49
あんたは麻原にも敬意を払うの？

[53. 匿名]

>>50
正直それが嫌なら匿名掲示板なんて使わない方がいいよ

[54. 匿名]

>>35
だから最近の声優の声は魅力がなくなってきてるのか。

[55. 匿名]

>>50
結構再生されてるよね笑

[56. 匿名]

>>54
そもそも最近は人間っぽいキャラが多いから
周りとぜんぜん違う声ってのがそんな求められなくなってるからね

[57. 匿名]

>>15
ファンに手を出したり、文春されたりする危険性がないから、子供用のアニメとかAIが担当するようになったりしてね

[58. 匿名]

>>4
現実はたいして訴えられてなくない？
個人的にはあいまいにしておかない方がいいように思うけど、費用とか考えると難しいのかな

[59. 匿名]

>>49
貼ってる行為はおかしいと思うけど、危険性は十分わかった。

これはまだ悪ふざけ感があるから、偽物と判別できる。
今後は見分けのつかないフェイクニュースが溢れてしまうような時代になったと思う。

[60. 匿名]

>>58
どういう行為に対して訴えるかが明確じゃないと難しいよ

[61. 匿名]

>>36
NHKニュースではAIの読み手も既に使っている
人間が描いた絵かAIが描いた絵か誰も判別できない
音楽もね
創作物はほぼすべて

[62. 匿名]

>>46
これからは、頭脳労働はAIの仕事なんだよ

ロボットでは足りない部分の肉体労働が人間の仕事になる

[63. 匿名]

>>11
人間のやりたい仕事もAIの方が上手いから。
そしてやりたくない仕事もどんどんAI技術で仕事奪われてる。気付かないうちに能のない人間は居場所を失う。

[64. 匿名]

>>4
こういうのもダメなのかな？

ひろゆき XOXO 【機械学習】 - YouTube

あの...なんだろう、たまに顔外れちゃうのやめてもらってもいいですか？原曲はこちらhttps://youtu.be/E9b8pyt4iNc本家様はこちらhttps://youtu.be/pgh7PbCpmEAインド映画「Jagga Jasoos」https://youtu.be/05TA9jNnCdU@hirox...">

[65. 匿名]

これは“声”だけど、AIが台頭してきて安上がりにあげようとしたからハリウッドでは俳優がAI使うなみたいなデモ大々的にやってたよね
日本も規制しないといろんな人の仕事なくなるかも
既にAI絵師とか訳の分からんの出てきてるし

[66. 匿名]

>>4
ディープフェイクってやつかな

[67. 匿名]

>>62
私は学力的にもIQ的にも平均より上なんだけど、たしかに頭脳労働だったらその辺の人たちよりAIの方がちゃんと正しく言う通りにしそうだからAI雇いたいなと思う
その辺の普通の人って頭脳という面でめっちゃ質低いよね

[68. 匿名]

>>44
AI音声は聞いたことないけど人力はそこまでよく出来てなかったからお目こぼしされてたのかな
昔宇多田ヒカルが人力で歌わせたボカロに反応してたことは知ってるけど、否定も肯定もしてなかった

[69. 匿名]

>>68
声優側が一番懸念してるのが見分けがつかなくなるってところだから
以前の技術じゃ聞けばすぐ作ってあるなってのがわかったからね
それほど大事とは捉えてなかったんでしょ

[70. 匿名]

冗談でなく、
マジで声優という仕事は終った。
通訳も終ったかも知れない。

[71. 匿名]

最後まで残りそうな仕事は
性風俗系とAV女優

[72. 匿名]

>>71
肉体系の仕事は全部残るよ
AIに比べてロボットの進化のスピードは遅いからね

[73. 匿名]

>>34
ラノベ学科からでもシナリオライターとして会社所属になれたし素質次第よね

[74. 匿名]

>>70
でもいくら工場技術が発達しても「手づくり」に価値を見出す場面や人はたくさん存在するから、声の面でも同じじゃないかな
大量生産的なものはAIに取って代わられるかもしれないけど、ここぞっていう時は職人のものが重宝されると思うわ

[75. 匿名]

>>72
一番やって欲しいとこそこなのにね…介護とかさ

[76. 匿名]

AIでカバー曲歌わせるのって結構前からあるよね。今は有名人の声ばっか使われてるけど、その内一般人の声使って詐欺とか冤罪(証拠として提出した暴言の音声がAIの偽声)に使われそうで怖い

[77. 匿名]

>>1
早くもAI問題出て来たね。声優は大迷惑だね。

[78. 匿名]

>>49
統一教会教祖の文鮮明にも敬意を払わないとね
統一教会の侮辱は故人に不謹慎

[79. 匿名]

>>1
自分が言ってほしいセリフを好きなキャラに言わせたりとかできそう

[80. 匿名]

>>1
何かの番組でハリウッド俳優の声を使って日本語を話してるように聞こえる技術を見た
声優さんの仕事がヤバくなるけどどんな感じに聞こえるかは気になる

[81. 匿名]

>>22

[82. 匿名]

>>49
統一協会支持してるのはおかしくないんだ

[83. 匿名]

>>15
声優を目指す子にしろ、地下アイドルにしろ、TVに出るような有名俳優や有名アイドルになるのは無理だけど、ファンがついて崇拝されるような存在になりたいっていう欲求があるんだろうな

[84. 匿名]

>>1
なんだ、トピ立ってたんか

[85. 匿名]

コナン君って音痴設定だよね

[86. 匿名]

女性声優のディープフェイク見つけたことあるよ
可哀想だったわ
多分作った人は海外の人だと思うけど

[87. 匿名]

本物（公式）だと信じちゃう人がいるから怖いよね。TikTokでダンス動画にダウンタウンのAI加工してるのみたけどコメント欄、結構本物だと思ってる人がいて怖いなって思ったよ。声も変えたらもっと心配。

[88. 匿名]

>>4
分別ない子供の頃からネットでSNSやらYoutubeやらに触れてるせいで分からないんだろうね。
本来は違法なんだけど急に出てきたもので法整備が追いついてないし。「みんなやってるから」それが普通だと思ってる。
ここまで一般人が参入してきてるなら子供のうちに著作権について知る機会を作るべきだね。

[89. 匿名]

>>54
最近どころか今の大御所さんたちだって元は劇団所属とか子役から始めた人が多いよ
元々そういう職業だった

[90. 匿名]

アニメ関連って子供が楽しんでるんだからいいじゃんって言うので無法地帯になりやすいからな。だからこそちゃんとやらなきゃダメだと思う。あまりやりすぎたら声マネで歌ってみただけでも厳しくなっていきそう

[91. 匿名]

>>1
コナンは音痴設定なだけで高山みなみは上手いんよな、
ガンダムWの主題歌とかも歌ってる

[92. 匿名]

>>4
被害がないからなあ

[93. 匿名]

>>15
元気な少年の声が出せる女性声優が少ないよね
声優目指す人は多いけど

[94. 匿名]

>>71
AVもAIで出来ないかな
俳優使わずに

[95. 匿名]

ai coverで検索するとごろごろ出てくるよね
凄いと思う一方で歌手や声優の権利侵害になるのでは？と気になってた

[96. 匿名]

AIを使ってオリジナルコンテンツを作る→合法
その影響でいろんなクリエイターが食えなくなる→合法
AIを使って既存のコンテンツ(人、作品)に似せたものを作る→違法

規制って言ってもこれくらいが限度だろう

[97. 匿名]

高山さんはTWO-MIXだから上手いけど、コナンは超絶音痴だぞ。
そこは再現してなさそうだな。

[98. 匿名]

>>49
存命時の事象に意見することを否定しているのではなく、故人や身内の許可なく一個人の尊厳を侵害している点を批難してるだけなのにね。別個のものとして考えられない人に絡まれちゃったね。ドンマイ。

[99. 匿名]

法で規制してほしい。
罰則も強化してほしい。

[100. 匿名]

>>12
法整備の動きは世界では始まってるけど、日本ではまだ全然って感じらしい。

[101. 匿名]

公共放送のNHKからもう亡くなった歌手に歌わせたりした罪が重いよ。

[102. 匿名]

>>25
営利目的は完全にアウトだよね
そうじゃないものは企業も大目にみてるのかな
ディズニーとかサザエさんは容赦ないみたいだけど

[103. 匿名]

これが良いって訳でなく、許可取ってないモノマネは良いのか？って思ってしまった。
テレビでも勝手にマネしてるし、一般人もネットでマネしてるし、、、

[104. 匿名]

>>70
通訳は本人自体が間違える可能性も秘めてるけど
AIだと恣意的に単語が書き換えられていたり、
誰かの意図で誤訳することも可能になるから
やっぱ重要な会議じゃ人間に頼るのが一番安全だということになると思うなあ

[105. 匿名]

いやらしい事に使われそうだし、日本でのAI利用は禁止にすべきだと思う
どこでどんな事に使われる事になるかわからないし怖いよ

[106. 匿名]

>>22
数年に渡るドラマ観てるんだけれど子役が大人になってしまって面影無くなってしまった　もうちょっと子供のママの映像にしたいだろうに無理矢理時間合わせてる感じだった　
AIでこどものママ出来るなら作品としては良いよね
そのドラマは役者が降板して同じ人物のキャラも見た目も性格も変わってしまって興醒めした
上手い数人の役者がブルーバックで芝居をして登場人物全部アバターという時代が来てから全てをAIが取って変わるのかな
ドラマのファンであって役者のファンで無い人に取っては作品さえ良ければ良いからね

[107. 匿名]

インボイスよりこっちの方がヤバいよな

[108. 匿名]

>>63
せめてベーシックインカムがあれば
生きやすくなるかもしれないけど
上層部が反対するかもしれないなあ…

[109. 匿名]

>>70
状況を伝えるアナウンサーも。