AIの安全性評価ガイドライン公開 IPAと国などが設立したAISIから
ITmedia NEWS / 2024年9月18日 16時2分
概要より
情報処理推進機構(IPA)が内閣府や経済産業省などと協力して2月に設立した「AIセーフティ・インスティテュート」 (AISI)は9月18日、AI開発者・提供者向けに、AIの安全性などを評価する「AIセーフティ評価」の観点や手法をまとめたガイドブックを公開した。
LLMを構成要素とするAIシステムが対象。「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」の6つの要素から、AIシステムが適切かを見定めるための評価手法を整理した。
2024年4月に国が公表した「AI事業者ガイドライン」や海外文献などを踏まえて作成した。
評価の観点は、AIが、犯罪に関する情報や攻撃的な表現など、有害な情報の出力を制御できる状態になっているかや、プライバシーが保護されているか、出力の根拠が技術的に合理的な範囲で確認できるか――など。
評価は、AI開発・提供・利用フェーズそれぞれにおいて、合理的な範囲・適切なタイミングで繰り返し行うことをすすめている。
外部リンク
この記事に関連するニュース
-
AIセーフティに関する評価観点ガイドを公開
Digital PR Platform / 2024年9月18日 14時36分
-
日米のAI関連ガイドラインの相互運用性向上をめざし「クロスウォーク2」を公開
Digital PR Platform / 2024年9月18日 14時34分
-
米オープンAIとアンスロピック、連邦政府のAI安全対策で協定締結(米国)
ジェトロ・ビジネス短信 / 2024年9月10日 0時40分
-
【10月28日(月)開催 (会場・ライブ配信)】人工知能(AI)セミナー AIの進化を見据えて: 最新規制と国際標準化の実践、組織対応の最前線 お申込受付中!
PR TIMES / 2024年9月9日 16時45分
-
Kasperskyの専門家が、IoTデバイスの新しいISO/IEC規格の開発に参加
PR TIMES / 2024年9月3日 15時45分
ランキング
-
1梅田ロフト、来春営業終了・移転を発表 トレンド入りの衝撃「寂しい」「青春しかない」
iza(イザ!) / 2024年9月18日 13時21分
-
2「最近聞いてわりとびっくりした」 ゼンリンも知らない”ある地名”にまつわる意外な事実に反響 「地元民には当たり前だけど……」
ねとらぼ / 2024年9月17日 20時45分
-
3新型Ryzen AI搭載の「ProArt PX13」はデスクトップPCの置き換えも可能なモバイルPCなのか? 試して分かった夢と現実
ITmedia PC USER / 2024年9月18日 12時0分
-
4クレカ付帯のプライオリティ・パス、なぜ改悪が続くのか
ASCII.jp / 2024年9月18日 7時30分
-
5ソニーが「Xperia 5」新機種を見送った理由 小型スマホは終焉を迎えるのか
ITmedia Mobile / 2024年9月10日 19時32分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください