生成AIの信頼性、AIで評価し結果公表…総務省が基盤システム開発方針

[1. 匿名]

生成ＡＩの信頼性、ＡＩで評価し結果公表…総務省が基盤システム開発方針 : 読売新聞

　総務省は生成ＡＩ（人工知能）の信頼性を評価する基盤システムを開発する方針を固めた。ＡＩが差別表現や偏向した回答をしていないか、複数の評価用ＡＩで確認する。…

　複数のＡＩが様々な質問を自動的に生成して評価対象となるＡＩに回答を求め、その内容を確認する。人間による定期監査を行い、評価用ＡＩが正しく機能しているかを点検する。

　総務省は、生成ＡＩの回答を評価する基準として〈１〉差別的な表現やプライバシー情報がないか〈２〉犯罪につながる内容がないか〈３〉誤情報や根拠を欠くものがないか〈４〉バランスの取れた内容か〈５〉日本の文化に忠実な内容か〈６〉人を欺いていないか〈７〉未知のリスクに対応できるか――の７項目を想定している。

出典：www.yomiuri.co.jp

[2. 匿名]

あい
いらね

[3. 匿名]

GoogleのＡＩのやつも邪魔

[4. 匿名]

試みとしてはいいと思うけど、ちょっとAI関連のこと知ってる身としては、テストのやり方とテスト結果信ぴょう性が色々と疑問

[5. 匿名]

AIがAIを評価？

[6. 匿名]

最近の機械翻訳、頭打ちだよね

[7. 匿名]

そんなに頼りにしてはいけない物だと思うから完璧目指さなくていいよ

[8. 匿名]

数年前にAI岸田が話題になりましたよね

[9. 匿名]

日本語の基盤システムも必要だと思う
じゃないと中国や韓国の作った歴史がそのまま正解となって世界中の人の知識となってしまう

[10. 匿名]

[11. 匿名]

すぐほんとっぽい嘘つくからなAI
自分の専門分野だと良くわかる
いづれ何が正解の情報かわからなくなりそう

[12. 匿名]

>>5
AIを評価するAIをAIが評価

[13. 匿名]

>>10
指怖い

[14. 匿名]

>>4
AIとはいうけど本当に無から考える力はなくてビッグデータ利用してるだけだからね
引っ張ってくるソース次第では間違った回答してくることもよくある

[15. 匿名]

>>10
フィンガー5

[16. 匿名]

AIで毒キノコ食べてたじゃん

[17. 匿名]

>>12
AIを評価するAIを評価するAIをAIが評価

[18. 匿名]

>>8
あれで元ネタ調べて岡山の文豪の存在を知った

[19. 匿名]

ややこしいな、AI生成物の判定をAIがやるの？

[20. 匿名]

AIばっかでこの先人間バカになりそう

[21. 匿名]

>>17
現場猫のアレじゃんｗ

[22. 匿名]

>>1
6 人を欺いていないか
ここだけはチェックして欲しいわ
嘘ばっかりつくねん

[23. 匿名]

最近ある男性からやたらメールが来る
多分知り合う女全員にAIで文章作って発信してるんだと思う
文面見てAIが作ったって分かるしただただ面倒くさい
私の方もAIで返信してるけどあっちのAIと私のAIがいい感じになってて笑う
　

[24. 匿名]

>>3
ググルのAIトンチンカンすぎる

[25. 匿名]

>>13
まだ、指だめなんだ

[26. 匿名]

ChatGPTってユーザーの位置情報をどっかで取得してるよね
iPhoneで、帯状疱疹の予防接種の自治体サービスについて質問したら、◯◯市の場合は〜とか答えてきて、なんで場所知ってるのと問い詰めたら一例に出しただけですとスッとぼけ続ける

新しいスレッドで「今日の天気は？」と聞いても、居住市の天気を答えてきて、突っ込むとほんの一例ですととぼける

[27. 匿名]

>>1
なにをするにしても国政には日本人を起用してほしい。
エンジニアに限らず
普段から国政に中国人を平気でいれてるの恐ろしい。

[28. 匿名]

>>23
面白い！AI同士でどこまで進展するか知りたい笑

[29. 匿名]

>>3
こないだ1999年に22歳だった人は2025年には26歳ですって出てきてびっくりした

[30. 匿名]

メタのAI関連も中国人技術者がほとんどだと問題になってるし、何でもAIに聞いてるとバカになるよ

[31. 匿名]

>>29
ほんとにノリでしゃべってるだけなんだな

[32. 匿名]

>>28
私は2人で会うつもりはなくて、でも相手が私のことを好きになるように返事してって命令してる
相手は多分「交際はしないけど親密な関係になりたい」みたいに命令してる
相手のAI男はめちゃくちゃしつこくて話がつまらない、こっちのAIはのらりくらりで言葉の通じない女
お互い人間同士だったらとっくに音信不通になるようなやりとりしてる

[33. 匿名]

>>1
AIの言う事は話半分でみてる。

[34. 匿名]

>>11
いずれ😭
こういうのもどんどん忘れていくのかな

[35. 匿名]

>>25
AIって目印のつもりで直さないのかも

[36. 匿名]

脆弱が盲目的に信じ切ってるのだろう。要するにバカは疑う事を知らないって事。

[37. 匿名]

>>1
総務省ってw創価学会公明党の縄張りじゃん

[38. 匿名]

ジェミニちゃんに嘘つかれた

[39. 匿名]

>>25
古いやつなんじゃない？
今流石にこんなんならないけどな

[40. 匿名]

AIの性能が上がれば真実なんて簡単に上書き出来ていまうよね。

そこに悪意があるかどうかは別にして。

[41. 匿名]

>>11
だね、専門分野の一次情報を人間が考えて書いていたのを利用して二次情報を作成
この二次情報でAIが大量に出回ると、AIが作った三次情報だらけになる懸念

[42. 匿名]

>>10
全体的にバランス悪い
下手な絵師(笑)が描いたデッサン狂ってる絵みたい
指おかしいし
あとモニターの位置高すぎだろ

[43. 匿名]

>>10
こんなんでも見慣れてない人が見れば普通の写真と区別つかないんだろうな

[44. 匿名]

何故AIの評価をAIがするのか？
経産省馬鹿じゃないの？
最終的に人間の判断でないとトラブルの元になるだけじゃん
YoutubeのコンテンツID詐欺も結局AIだけの判断では永久に犯人逮捕には至らなかったわけだし

[45. 匿名]

>>26
IPアドレスで市町村までわかるよ
実際にGoogleがそれを証明してるから

[46. 匿名]

>>10
合成写真みたいになってるのと、口の位置が変
非対称だからわかる

[47. 匿名]

>>10
この画像他でも見た
このお気に入りの画像を握りしめてがるをウロウロしてるおっさんがこの世に存在してる無常さを憂う

[48. 匿名]

AIは作った国の思想がもろに出てるんだから、他国をコスパ良く洗脳するツール

[49. 匿名]

>>1
AIにたらい回しにされそう

[50. 匿名]

AIが日本の文化を学習してるんだｗ

[51. 匿名]

>>47
おっさんの遊び場だからね。実際がるって。
「今日のがる民ギャオオオオン速報」みたいな、がるちゃんまとめ専用サイトを最近見付けたよ

[52. 匿名]

既存の産業ロボットもそうだけど、ロボットの弱点はミスを自分で気付いて修正出来ないこと。
修正できないから、何時までも延々と同じミスを繰り返し続けてしまう。
ロボットに「それはミスだよ。間違ってるよ。こういう方法に変えてやってね」って教えてあげてミスの延々にするミス行動を止めてあげるのは、人間にしか出来ない仕事

だからAIに完全に仕事取られる事は無い

[53. 匿名]

>>10
北川景子風

[54. 匿名]

>>29
小学生の算数も出来ないのに人工知能とかw
1999年生まれですらないw

[55. 匿名]

>>11>>24>>33
呼んでないのに出しゃばって来るよね
本当に知らなくて調べたいことはAI回答無視で、
自分がよく知ってる分野をハルシネーション探して面白がるためにAI回答に目を通したりするw

[56. 匿名]

評価用AIは絶対必要、生成されたAIの回答を色んな角度から見て間違いがないか確認してくれるから、これがないと生成AIの回答自体に信憑性が無くなってしまう…