総務省、生成AIの信頼性をAIに評価してもらうシステム開発へ

1: バロキサビルマルボキシル(東京都) [TH] 2025/11/15(土) 12:30:24.53 ID:kJV0zDQA0 BE:123322212-PLT(13121)

sssp://img.5ch.net/ico/pc3.gif
　総務省は生成ＡＩ（人工知能）の信頼性を評価する基盤システムを開発する方針を固めた。
ＡＩが差別表現や偏向した回答をしていないか、複数の評価用ＡＩで確認する。評価結果は、指標などの形で公表し、
利用者がどの生成ＡＩを使うかを決める際の参考にしてもらう計画だ。

　来春にも総務省所管の国立研究開発法人・情報通信研究機構（ＮＩＣＴ）で開発を始め、２０２６年度中の試作モデル提供を目指す。

　複数のＡＩが様々な質問を自動的に生成して評価対象となるＡＩに回答を求め、その内容を確認する。
人間による定期監査を行い、評価用ＡＩが正しく機能しているかを点検する。

　総務省は、生成ＡＩの回答を評価する基準として〈１〉差別的な表現やプライバシー情報がないか〈２〉犯罪につながる内容がないか
〈３〉誤情報や根拠を欠くものがないか〈４〉バランスの取れた内容か〈５〉日本の文化に忠実な内容か〈６〉人を欺いていないか
〈７〉未知のリスクに対応できるか――の７項目を想定している。

　評価基準は今後、日本の主導で先進７か国（Ｇ７）が合意した国際ルール「広島ＡＩプロセス」などを踏まえ、
社会学者や法学者らが参加する会議で詳細を検討する。

https://news.yahoo.co.jp/articles/959321f3a702c678179bd0489e39fb04c54cdae8

引用元: ・総務省、生成AIの信頼性をAIに評価してもらうシステム開発へ [123322212]

2: エトラビリン(茨城県) [IN] 2025/11/15(土) 12:32:18.04 ID:GX4Kpjq50

そのAIの評価をまた別のAIがするんですね

4: コビシスタット(福岡県) [BR] 2025/11/15(土) 12:33:07.99 ID:INJEOKCI0

人間も人間が評価するからね仕方ないね

5: ビクテグラビルナトリウム(茸) [US] 2025/11/15(土) 12:34:09.60 ID:EFZtpZJe0

交通量監視員を監視する仕事みたいなおも？

6: エムトリシタビン(京都府) [IE] 2025/11/15(土) 12:35:28.82 ID:W7aTQKhR0

無駄使い思いついたか

7: アシクロビル(庭) [US] 2025/11/15(土) 12:36:07.53 ID:CoMxi9NH0