バイデン米政権、生成AIリスク管理の指針案などを公表、パブコメ募集(米国)
ジェトロ・ビジネス短信 / 2024年5月1日 13時35分
米国商務省国立標準技術研究所(NIST)は4月29日、生成人工知能(AI、注)のリスク管理に関する指針案など、計4本の文書案を公開した。同文書案について、6月2日までパブリックコメントを募集する。コメントの提出方法は次の各文書案を参照。
(1)「生成AIに関するプロファイル(NIST AI 600-1)」は、NISTが2023年1月に公表したAIリスク管理フレームワーク(AIRMF、2023年2月1日記事参照)の参考資料と位置付けられる。化学兵器・生物兵器・放射能兵器・核兵器に関連する情報へのアクセスの容易化、ハッキング・マルウエア・フィッシングなどサイバー攻撃への参入障壁の低下、ヘイトスピーチや有害・中傷的・固定観念に基づくコンテンツの生成など、生成AIに関連する12のリスクと、開発者が講じ得る400以上の対応策をリスト化している。
(2)「生成AIおよびデュアルユース基盤モデルのための安全なソフトウエア開発手順(NIST SP 800-218A)」は、NISTが2022年2月に公表した安全なソフトウエア開発フレームワーク(SSDF、NISTウェブサイト参照)の付属資料と位置付けられる。悪質なトレーニングデータが生成AIシステムに悪影響を与える懸念に開発者が対処するための指針を提供している。
(3)「合成コンテンツが及ぼすリスクの軽減(NIST AI 100-4)」は、AIによって生成・改ざんされた画像や音声などの合成コンテンツが増加する課題を踏まえ、コンテンツの透明性を促進するための技術的アプローチを提供する資料となる。具体的には「電子透かし」の埋め込みやメタデータの記録など、コンテンツの出所や履歴を示す情報をコンテンツに埋め込むことでその真正性を検証可能にする、合成コンテンツの検出・認証・ラベリングの方法を提供している。
(4)「AI標準に関するグローバルな関与のための計画(NIST AI 100-5)」は、AI関連のコンセンサス標準の世界的な開発・実施、協力・調整、情報共有を推進するための資料となる。標準化の段階にあるトピックとして、デジタルコンテンツの出所に関する認識向上の仕組みや、AIシステムの試験・評価・検証・妥当性確認のための共通の手順などを挙げている。
ホワイトハウスは同日、AIの開発や利用に関する大統領令(2023年11月1日記事参照)の発令から180日が経過したことを踏まえ、各連邦政府機関が180日以内に実施するよう指示された措置をいずれも完了したと発表した。完了した措置には、今回NISTが公表した文書案のほか、ライフサイエンス分野の研究開発におけるAIの悪用を防止するための核酸合成スクリーニングフレームワークの立ち上げや、重要インフラで使用されるAIの安全な開発や利用についての指針の策定、国土安全保障省や重要インフラ事業者に助言を行うAIセーフティーセキュリティー委員会の立ち上げなどを列挙した。
(注)学習データを基に、自動で文章、画像、動画などを生成するAI。生成AIの活用を巡る動きが活発化する一方で、機密情報や個人情報の取り扱い、回答の正確性、偽画像や動画の拡散などの課題が指摘されている。
(葛西泰介)
(米国)
この記事に関連するニュース
-
情報BOX:米が敵対国の最先端AI利用を警戒、具体的な懸念は
ロイター / 2024年5月10日 18時9分
-
偽動画(ディープフェイク)検知技術を用いたサービス共同開発に着手
Digital PR Platform / 2024年4月23日 15時30分
-
SAS、信頼できるAI製品にモデルカードとAIガバナンスサービスを追加
Digital PR Platform / 2024年4月22日 11時10分
-
政府、高齢者身元保証で指針案 事業者に契約書交付を要請
共同通信 / 2024年4月19日 11時49分
-
マニュアル自動作成ツール「Dojo(R)」に、生成AIによる新機能が追加~新バージョンリリースのお知らせ~
PR TIMES / 2024年4月17日 18時15分
ランキング
-
1韓国大統領夫人捜査の幹部ら異動 不正疑惑巡り、「政権圧力」疑念
共同通信 / 2024年5月15日 19時26分
-
2ブレア元米国家情報長官インタビュー「日本のサイバー対策はまだマイナーリーグ」
産経ニュース / 2024年5月15日 17時51分
-
3スロバキアのロベルト・フィツォ首相が銃撃される 政府「命に関わる容体」 5発発砲され腹部など負傷
TBS NEWS DIG Powered by JNN / 2024年5月15日 23時44分
-
4暴動激化、3人死亡=仏「非常事態」宣言へ―ニューカレドニア
時事通信 / 2024年5月15日 22時26分
-
5ウォン新首相就任、シンガポール 交代20年ぶり、継続と安定重視
共同通信 / 2024年5月15日 22時13分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください