米サンフランシスコで国際AI安全会議開催、安全性とイノベーションの融合を目指す（米国、カナダ、日本、オーストラリア、EU、フランス、ケニア、韓国、英国、シンガポール）

米国カリフォルニア州サンフランシスコで11月20～21日、米国商務省と国務省が主催する「国際人工知能（AI）安全研究所ネットワーク」の初会合が開催された。AIの安全性に関するグローバルな取り組みを強化することを目的としており、米国が初代議長を務めた。初期メンバーとして、オーストラリア、カナダ、EU、フランス、日本、ケニア、韓国、シンガポール、英国が参加した。商務省のファクトシートによると、会合では、主要課題の設定を含むAI関連の課題に関し議論が行われ、次の5点が発表された。

（1）AI安全性に関する国際協力の強化

合成コンテンツのリスク管理、基盤モデルのテスト、先端AIシステムのリスク評価という3つの優先課題を設定し、AI安全性の研究の推進やモデル評価方法の確立、国際的な協力と情報共有を進めることで合意した。

（2）合成コンテンツが及ぼすリスクに対する資金提供と研究

合成コンテンツがもたらすリスクの軽減を目的とした研究に対し、1,100万ドル以上の資金が提供されることが発表された。米国AI安全研究所（AISI）が、「合成コンテンツが及ぼすリスクの軽減（NIST AI 100-4）」というガイドラインの最終版を公開することを明らかにした（2024年5月1日記事参照）。

（3）国際的なAIテストの実行結果

米国、英国、シンガポールのAI安全研究所が主導し、米メタのラマ3.1モデルを用いた初の共同テストを実施した。このテストでは、学術知識、ハルシネーション（注）、多言語能力に関する評価が行われ、国際的なAIテストの評価基準を検討する材料となった。

（4）高度なAIシステムのリスク評価に関する共同声明

各国独自の背景を考慮しつつ、リスク評価において共通の科学的基盤を構築することで合意した。この基盤は、「実行可能性」「透明性」「包括性」「さまざまな立場の利害関係者の想定」「反復性」「再現性」の6つの要素から成る。

（5）AISI主導のタスクフォースの新設

AISIは、国家安全保障におけるAIリスクテスト（TRAINS）のタスクフォースを設立した（2024年11月22日記事参照）。本タスクフォースは、米国の商務省、国防総省、エネルギー省（DOE）、国土安全保障省（DHS）、国家安全保障局（NSA）、国立衛生研究所（NIH）の専門家を集結し、国家安全保障上の問題に対応し、AIイノベーション分野での米国のリーダーシップを強化することを目的としている。

これらの取り組みは、2025年2月にフランスで開催される「AIアクションサミット」に向けて、国際的な連携を深めるための指針となるとされている。

（注）AIが虚偽やでたらめな情報を提供すること。

（松井美樹）

（米国、カナダ、日本、オーストラリア、EU、フランス、ケニア、韓国、英国、シンガポール）