バイデン米政権、生成AIリスク管理の指針案などを公表、パブコメ募集(米国)
ジェトロ・ビジネス短信 / 2024年5月1日 13時35分
米国商務省国立標準技術研究所(NIST)は4月29日、生成人工知能(AI、注)のリスク管理に関する指針案など、計4本の文書案を公開した。同文書案について、6月2日までパブリックコメントを募集する。コメントの提出方法は次の各文書案を参照。
(1)「生成AIに関するプロファイル(NIST AI 600-1)」は、NISTが2023年1月に公表したAIリスク管理フレームワーク(AIRMF、2023年2月1日記事参照)の参考資料と位置付けられる。化学兵器・生物兵器・放射能兵器・核兵器に関連する情報へのアクセスの容易化、ハッキング・マルウエア・フィッシングなどサイバー攻撃への参入障壁の低下、ヘイトスピーチや有害・中傷的・固定観念に基づくコンテンツの生成など、生成AIに関連する12のリスクと、開発者が講じ得る400以上の対応策をリスト化している。
(2)「生成AIおよびデュアルユース基盤モデルのための安全なソフトウエア開発手順(NIST SP 800-218A)」は、NISTが2022年2月に公表した安全なソフトウエア開発フレームワーク(SSDF、NISTウェブサイト参照)の付属資料と位置付けられる。悪質なトレーニングデータが生成AIシステムに悪影響を与える懸念に開発者が対処するための指針を提供している。
(3)「合成コンテンツが及ぼすリスクの軽減(NIST AI 100-4)」は、AIによって生成・改ざんされた画像や音声などの合成コンテンツが増加する課題を踏まえ、コンテンツの透明性を促進するための技術的アプローチを提供する資料となる。具体的には「電子透かし」の埋め込みやメタデータの記録など、コンテンツの出所や履歴を示す情報をコンテンツに埋め込むことでその真正性を検証可能にする、合成コンテンツの検出・認証・ラベリングの方法を提供している。
(4)「AI標準に関するグローバルな関与のための計画(NIST AI 100-5)」は、AI関連のコンセンサス標準の世界的な開発・実施、協力・調整、情報共有を推進するための資料となる。標準化の段階にあるトピックとして、デジタルコンテンツの出所に関する認識向上の仕組みや、AIシステムの試験・評価・検証・妥当性確認のための共通の手順などを挙げている。
ホワイトハウスは同日、AIの開発や利用に関する大統領令(2023年11月1日記事参照)の発令から180日が経過したことを踏まえ、各連邦政府機関が180日以内に実施するよう指示された措置をいずれも完了したと発表した。完了した措置には、今回NISTが公表した文書案のほか、ライフサイエンス分野の研究開発におけるAIの悪用を防止するための核酸合成スクリーニングフレームワークの立ち上げや、重要インフラで使用されるAIの安全な開発や利用についての指針の策定、国土安全保障省や重要インフラ事業者に助言を行うAIセーフティーセキュリティー委員会の立ち上げなどを列挙した。
(注)学習データを基に、自動で文章、画像、動画などを生成するAI。生成AIの活用を巡る動きが活発化する一方で、機密情報や個人情報の取り扱い、回答の正確性、偽画像や動画の拡散などの課題が指摘されている。
(葛西泰介)
(米国)
この記事に関連するニュース
-
ChatGPTで社内独自資料から回答する業務効率化ツール「Crew」、Claude 3.5 Sonnet Google Gemini 1.5 Proを搭載
PR TIMES / 2024年7月19日 12時45分
-
【東芝デジタルソリューションズ】ソリューションへの生成AIの導入を加速する「生成AI標準活用基盤」を開発
Digital PR Platform / 2024年7月19日 10時19分
-
「NIST Cybersecurity Framework 2.0対応アセスメントサービス」の提供を開始
PR TIMES / 2024年7月12日 13時15分
-
【LINEヤフー】RAG技術を活用した独自業務効率化ツール「SeekAI」を全従業員に本格導入。膨大な社内文書データベースから部門ごとに最適な回答を表示し、確認・問い合わせ時間を大幅に削減
PR TIMES / 2024年7月11日 16時15分
-
ChatGPTよりも安全を掲げる"憲法AI"の可能性 AIをトレーニングし安全・無害・誠実な出力を行う
東洋経済オンライン / 2024年7月1日 11時30分
ランキング
-
1米国初の女性・アジア系大統領を目指すハリス氏、手腕には厳しい評価も
産経ニュース / 2024年7月22日 19時11分
-
2バイデン氏の撤退決断、米主要紙が評価 「勇気ある選択」「米国の最良の利益」
産経ニュース / 2024年7月22日 19時34分
-
3バングラ学生デモの逮捕者500人超に 死者163人に 警察発表
AFPBB News / 2024年7月22日 20時38分
-
4国際協調路線のバイデン外交は「限界」露呈…ウクライナ侵略・ガザ紛争終結メドつけられず、米国内の分断も深まる
読売新聞 / 2024年7月23日 7時10分
-
5ハリス氏、民主党内の支持急速に固める 重鎮や有力知事ら後押し
ロイター / 2024年7月23日 7時52分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)