AIセーフティに関する評価観点ガイドを公開

評価の実施者は、主にAI開発およびAI提供における開発・提供管理者であり、いずれの役割の者が実施するかは、AIシステムに関するライフサイクルによって異なるとしています。評価実施時期は、LLMシステムの開発・提供・利用フェーズにおいて合理的な範囲、適切なタイミングで繰り返し実施することとしています。

本書の5章では、評価に関する手法として技術的評価とマネジメント的評価を挙げ、技術的評価の概要としてツールを用いた対策の検証、ツール以外も取り入れたレッドチーミングによる検証などを概説し、6章では評価に際しての留意事項を示しています。

AISIは、AIシステムを安全安心に利用するための評価への理解を促進することで、社会全体でのさらなるAI活用が進むことを期待しています。
「AIセーフティに関する評価観点ガイド」と概要説明資料は、AISIのウェブサイトからダウンロード可能です。
AIセーフティに関する評価観点ガイド：https://aisi.go.jp/2024/09/18/evaluation_perspectives/

注釈1) AIセーフティ:人間中心の考え方をもとに、AI活用に伴う社会的リスクを低減させるための安全性・公平性、個人情報の不適正な利用等を防止するためのプライバシー保護、AIシステムの脆弱性等や外部からの攻撃等のリスクに対応するためのセキュリティ確保、システムの検証可能性を確保し適切な情報提供を行うための透明性が保たれた状態のこと

■参考資料：
総務省・経済産業省、「AI事業者ガイドライン（第1.0版）」
https://www.soumu.go.jp/main_content/000943079.pdf
https://www.meti.go.jp/press/2024/04/20240419004/20240419004-1.pdf


本件に関するお問合わせ先
■ 本件に関するお問い合わせ先
AIセーフティ・インスティテュート事務局　北村・多賀
E-mail: [e-mail]

■ 報道関係からのお問い合わせ先
IPA 総務企画部　広報室　伊藤・鴨田
Tel: [phone]　お問い合わせフォーム：
https://user.pr-automation.jp/pr-automation/coverage_request.php?key=i9_Y3MeJYe-YSe6gM34B0g%3D%3D

関連リンク
AIセーフティに関する評価観点ガイド
https://aisi.go.jp/2024/09/18/evaluation_perspectives/