米国土安全保障省、重要インフラのAI開発と利用に向けた推奨事項を発表（米国）

米国国土安全保障省（DHS）は11月14日、米国の重要インフラにおける人工知能（AI）の安全かつ信頼性の高い開発と利用に向けた推奨事項を発表した。

DHSは発表の中で、米国の重要インフラ（注）においてAI技術の導入が進展する一方、AI技術の脆弱（ぜいじゃく）性に起因する重要システムの障害や、悪意ある行為者による不正操作の対象となる危険性があると指摘した。さらに、システム間の相互接続性の高まりに伴い、混乱が生じた場合に米国の国家安全保障に壊滅的な結果をもたらす可能性があると懸念を示した。今回DHSが発表した「重要インフラにおけるAIの役割と責任に関する枠組み」では、重要インフラにおけるAI技術の脆弱性を、（1）AIを用いた攻撃、（2）AIシステムを標的とした攻撃、（3）AIシステムの設計・開発の欠陥、に3分類した上で、関係者がこれらの脆弱性に対処するために果たすべき役割について指針を示した。

同枠組みでは、AIを開発したり利用したりする関係者として具体的に、クラウド・コンピューティングインフラ事業者、AI開発者、重要インフラの所有者・運営者、AI安全性や信頼性の問題に取り組む大学・研究機関・消費者保護団体などの市民社会、連邦・州政府などの公共組織を示した。このうち、AI開発者に関しては、システムの企画段階からセキュリティー対策の実装を図る「セキュア・バイ・デザイン」のアプローチを採用し、AIモデルの潜在的危険性を評価し、基本的人権を保障することを推奨した。また、AI開発者が強固な個人情報保護対策や、潜在的な先入観・障害要因・脆弱性の試験評価を実施し、重要インフラにおいて特にリスクが高いAIモデルについては外部評価を実施することを推奨した。

なお、DHSは2024年4月に、重要インフラの所有者・運営者向けに、AIの安全な開発や利用についての指針を発表していた（2024年5月1日記事参照）。

（注）DHSは重要インフラとして、化学、ダム、金融サービス、情報技術、商業施設、防衛産業拠点、食品・農業、原子炉・部品・廃棄物、コミュニケーション、緊急サービス、政府施設、交通システム、重要分野製造、エネルギー、保健・公衆衛生、上下水道の16分野を挙げた。

（葛西泰介）

（米国）