情報BOX:米が敵対国の最先端AI利用を警戒、具体的な懸念は
ロイター / 2024年5月10日 18時9分
5月9日、バイデン米政権は、米国の人工知能(AI)を中国やロシアから保護するため、最先端基盤モデルに輸出規制を設ける計画に取り組んでいる。写真はAI のイメージ。2023年6月撮影(2024年 ロイター/Dado Ruvic)
Alexandra Alper
[ワシントン 9日 ロイター] - バイデン米政権は、米国の人工知能(AI)を中国やロシアから保護するため、最先端基盤モデルに輸出規制を設ける計画に取り組んでいる。ロイターが8日報じた。
政府や民間研究者が懸念しているのは、膨大なテキストや画像を採集して情報を要約し、コンテンツを生成するモデルを敵対国が利用して、サイバー攻撃を仕掛けたり、果ては強力な生物兵器を作ったりする可能性だ。
AIがもたらし得る脅威をいくつか紹介する。
◎ディープフェイクと誤情報
ディープフェイクはAIアルゴリズムによって捏造(ねつぞう)された動画などで、米国の政治が二極化する中にあって、ソーシャルメディア上で事実と虚構の境をあいまいにしている。
こうした合成メディアは数年前から存在していたが、安価かつ簡単に本物そっくりのディープフェイク動画を作成できる「ミッドジャーニー」などの新しい生成AIツールが数多く登場したことから、この1年で一気に増加した。
オープンAIやマイクロソフトなどが提供するAI搭載型の画像作成ツールは、選挙に関連した偽情報を助長するような写真の作成に使われ得る。中には実際のニュース記事を模倣するAIの能力を利用して偽情報を広める動きもある。
フェイスブック、X(旧ツイッター)、ユーチューブなどの主要なソーシャルメディア・プラットフォームは、ディープフェイクを禁止、削除する取り組みを行っているが、その効果はまちまちだ。
例えば昨年、中国政府が管理するニュースサイトが生成AIプラットフォームを利用し、米国がカザフスタンで対中生物兵器を製造する研究所を運営しているというデマを流したと、米国土安全保障省は発表している。
ジェイク・サリバン大統領補佐官(国家安全保障担当)は8日にワシントンで開かれたAI関連のイベントで講演し、この問題は「大規模に偽情報を利用し、民主主義を混乱させ、プロパガンダを推進し、世界的な認識形成を行おうとする国家や非国家主体の意図」とAIの能力が組み合わさっているため、簡単には解決できないと述べた。
◎生物兵器
米国の諜報機関、シンクタンク、学界は、悪質な外国勢力が高度なAI能力にアクセスすることによるリスクに懸念を募らせている。グリフォン・サイエンティフィックとランド・コーポレーションの研究者は、高度なAIモデルが生物兵器作りに役立つ情報を提供する可能性があると指摘した。
グリフォンは、敵対勢力によって大規模言語モデル(LLM)が生物化学分野で利用される可能性について研究し、LLMが生物兵器の製造に役立つ情報を提供することができるとの結論に至った。パンデミックを引き起こし得るウイルスを扱うのに当たり問題が生じた場合に、LLMは解決に役立つポスドク(博士課程終了後)レベルの知識を提供できることが分かったという。
またランドの研究では、LLMが生物兵器攻撃の計画と実行に役立つことが示された。例えば、LLMはボツリヌス毒素のエアロゾル投与法を提案できる。
◎サイバー兵器
米国土安全保障省は今年の報告書で、パイプラインや鉄道を含む重要インフラに対する「より大規模で高速、効率的で、防御をすり抜けやすいサイバー攻撃」を可能にする「新しいツール開発」のために、AIが利用される可能性が高いと分析した。
同省によると、中国などの敵対国は、マルウェア攻撃を支援する生成AIプログラムなど、米国のサイバー防御を弱体化させる可能性のあるAI技術を開発している。
マイクロソフトは2月の報告書で、中国や北朝鮮の政府、ロシアの軍事情報機関、イラン革命防衛隊につながりのあるハッカー集団がLLMを用いたハッカー攻撃の精度向上に取り組んでいるのを突き止めたと明らかにした。
◎脅威への新たな取り組み
超党派の米議員グループは8日遅く、政府によるAIモデル輸出規制を容易にする法案を公表した。外国の敵対勢力から貴重な米国の技術を守るのが狙いだ。
この法案はまた、国家安全保障にリスクをもたらすAIシステムの開発で、米国人が外国人と協力することを禁止する明確な権限を商務省に与えている。
ワシントンでAI政策アドバイザーを務めるトニー・サンプ氏は、米議員らはイノベーションを阻害しないよう、重すぎる規制は避けようと努めていると説明。それでも「規制によってAI開発を取り締まれば、創薬やインフラ、国家安全保障などの分野における革新を阻害し、海外の競合相手に地歩を譲ることにつながりかねない」と警告している。
この記事に関連するニュース
-
米マイクロソフト、UAE企業との取引で高性能チップやAI技術移転も
ロイター / 2024年5月23日 14時45分
-
AIモデルの輸出規制容易にする法案、米下院委が可決 中国念頭
ロイター / 2024年5月23日 14時26分
-
ISC2、生成AI時代のサイバーセキュリティに関する国内調査結果を発表:AIを活用した偽情報(詐欺の高度化)、ディープフェイク、ソーシャルエンジニアリングのサイバー犯罪に強い懸念
PR TIMES / 2024年5月21日 14時15分
-
米AIモデルの輸出規制を容易に、超党派議員が法案を発表
ロイター / 2024年5月10日 13時15分
-
EXCLUSIVE-チャットGPTなどAIの基盤モデルで対中ロ輸出規制、米政府が検討
ロイター / 2024年5月9日 7時45分
ランキング
-
125年末まで減産延長=油価下支えへ―OPECプラス
時事通信 / 2024年6月2日 23時29分
-
2“為時”岸谷五朗、宋語の詩暗唱を褒められるも…監督からのひと言に「がっかりした」ワケ【光る君へ】
THE GOLD ONLINE(ゴールドオンライン) / 2024年6月3日 7時15分
-
3鉄道はなぜ「激混みOK?」 定員あってもほぼ無制限 いつから1人1席扱いしなくなったのか
乗りものニュース / 2024年6月3日 7時12分
-
4「#ワークマン女子」400店舗出店で逆転ホームラン狙うも客足は軟調…一般衣料市場でワークマンが抱える致命的な弱点とは?
集英社オンライン / 2024年6月3日 8時0分
-
5マイナ保険証の利用者増で「20万円」を病院に支給!?「受診する側」にメリットはないの? 狙いと内容について解説
ファイナンシャルフィールド / 2024年6月2日 5時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください