モニカ・セイガー
＜生成AIを駆使したプロパガンダが、ISISやアルカイダによって強化されている。専門家は、アメリカ国内のローンウルフ型テロのリスクがかつてないレベルに達していると警告する＞
デジタル安全対策を推進する団体が本誌に対し、ISISとアルカイダがアメリカ国内のユダヤ人コミュニティに対するローンウルフ（単独犯）型のテロ攻撃を促すコンテンツを、人工知能（AI）を利用して強化していると警告した。
「この傾向は明らかだ」と語るのは、元米国大使でありCoalition for a Safer Web（安全なウェブのための連合）の会長であるマーク・ギンズバーグ氏だ。「この脅威はまったく新しいレベルに達しており、その浸透作戦がどれほど高度化しているかを誰も理解し、評価できていないと思う」と本誌に対して述べた。
米国国土安全保障省（DHS）の広報担当者は本誌に対し、同省が連邦、州、地方のパートナーと協力し、外国のテロ組織からの脅威に対処しながらアメリカ国民の安全確保に努めていると説明した。
2023年10月7日、パレスチナ武装組織ハマスがイスラエルを攻撃して以降の1年間で、名誉毀損防止同盟（ADL）はアメリカ国内で1万件以上の反ユダヤ的事件を記録した。これは1979年にADLが追跡を開始して以来、1年間で最多の記録となり、前年と比較して200%以上の増加となる。
攻撃の手口は、言葉や書面による嫌がらせ、器物損壊、身体的暴力など多岐にわたる。特に2023年の攻撃以降から1年後までの間に起きた1200件以上の事件は大学キャンパス内で発生したものだった。
生成AI利用で「身元を隠す」ことが安易に
2024年10月7日のハマス攻撃の1周年を迎えた後、Coalition for a Safer Webは、ISISやアルカイダが運営する多数のウェブサイトを確認。そこには、生成AIを活用した動画やプログラム、さらにはガザ地区の破壊や負傷したパレスチナ人の画像を用いたミームが掲載されていた。このようなコンテンツは、アメリカ国内のローンウルフ型のテロリストを引き付け、イスラエルの支持者、特にユダヤ人コミュニティに対する報復行為を扇動するために操作されているという。
2024年半ば以降、ISISとアルカイダはプロパガンダ活動を強化し、生成AI技術を取り入れていることが、ギンズバーグ氏とそのチームの調査で判明した。AIを活用することで、極端に洗練されたプロパガンダが作成され、さらにアルゴリズムの操作やSNS上のコンテンツへの侵入が可能となり、反ユダヤ的な行動を扇動する役割を果たしている。
「生成AIは、ISISとアルカイダが互いに覇権を争う戦略の一環として悪用されている」とギンズバーグ氏は本誌に語る。「彼らはガザ戦争を利用し、アメリカ国内に潜伏する支持者を扇動・勧誘しているが、組織のメンバーを直接アメリカに送り込むつもりはないようだ」
さらに、Coalition for a Safer Webは、AIソフトウェア開発者やコンテンツ制作者を募集する「求人広告」まで発見した。生成AIを活用したニュース番組は、アメリカ英語の音声をクローンし、若年層をターゲットにしたコンテンツを作成。これにより、若年層が影響を受け、潜在的なテロ攻撃を引き起こす可能性があると懸念されている。
また、生成AIの利用によって、ISISやアルカイダのウェブサイトは身元を隠しながら活動できるようになっているという。
Coalition for a Safer Webの調査によれば、『The Wolves of Manhattan（マンハッタンの狼）』『Mujahideen in the West（西洋のムジャヒディン）』『Voice of Khurasan（ホラーサーンの声）』といった出版物には、サイバー・プロパガンダの活用方法を解説するマニュアルやハウツーガイドが掲載されている。
ギンズバーグ氏は、TikTok、Instagram、X（旧Twitter）、YouTubeといったプラットフォームが「ハニートラップ」の役割を果たしていることを指摘。「これらのプラットフォームではコンテンツの監視が終了しているため、ISISやアルカイダが反ユダヤ的なコンテンツをより容易に拡散できる」と警鐘を鳴らした。
「新たなソフトウェア技術が登場するたびに、それが暗号化であれ、主要SNSのコンテンツ管理の終了であれ、テロ組織はあらゆる手段を駆使してそのシステムの穴を突こうとする」とギンズバーグ氏は述べた。「今回特に厄介なのは、我々が傍受したコンテンツが直接特定の発信源へと結びつく証拠を残さないことだ」
さらに調査では、「ターゲット特定パッケージ」と呼ばれるデータが発見された。そこには、ニューヨーク、マイアミ、シカゴ、デトロイトといったアメリカの都市にあるユダヤ人センターの写真や動画に加え、シドニー、メルボルン、トロントのユダヤ人施設の情報も含まれていたという。
AIの発展で脅威はさらに拡大する可能性
ギンズバーグ氏は、「もちろん」AIが発展するにつれて、テロの脅威も増大すると指摘する。「なぜなら、AIの制御が不可能になりつつあるからだ」と述べた。
「ここ数カ月前までは、アメリカの若者が利用する主流の暗号化・非暗号化プラットフォームにアクセスできていた」とギンズバーグ氏は本誌に語る。
「しかし、脅威レベルはますます悪化している。ADL（名誉毀損防止同盟）を含め、誰もがそれを認識しているが、実際に何か対策を講じているのか？」
オープンソース情報を用いた新興技術の研究を行うThe Soufan Groupのアナリスト、クララ・ブローカート氏は本誌に対し、「生成AIは、テロ組織にとって特定のニーズを満たすものでなければならない」と述べた。
ブローカート氏によれば、「非常に初期の段階から」、生成AIや合成コンテンツの作成は、極右、ネオナチ、反政府加速主義（アナーキスト）グループなど、過激派組織によって実験的に導入されていた。
「彼らのプロパガンダ活動において、生成AIは非常に有益だった」とブローカート氏は説明する。
「オンライン上の広大なネットワークを対象に、大量のプロパガンダを翻訳し、拡散することが可能になった。中央アジアの多言語地域から、西洋、南部のソマリア、モザンビークに至るまで、AIはその伝播を助けている」
ブローカート氏はCoalition for a Safer Webの見解に同意し、「生成AIはプロパガンダを検出しにくくする」と指摘した。しかし、テロ組織のプロパガンダ戦略そのものを大きく変革するほどの「決定的な要素ではない」との見解も示した。
「彼らはオンライン上で攻撃を扇動し続けているが、その多くはAIを使わずに行われている」とブローカート氏は述べる。「したがって、現時点ではテロ活動に直接的な影響を与えるとは考えにくい。しかし、今後、強力な予測分析機能が開発されれば、テロ組織の計画立案に大いに役立つ可能性がある」
ブローカート氏によると、AIは大規模言語モデル（LLM）を活用した情報収集を容易にする。例えば、2024年の元旦にラスベガスのトランプ・インターナショナル・ホテルで発生した襲撃事件では、実行犯がAIを用いてさまざまな情報を収集していたと指摘されている。
これは、テロ対策をさらに困難にする要因の一つとなっている。ChatGPTのような商用モデルは安全対策が施されているが、オープンソースのLLMは必ずしも適切に制御されておらず、テロ組織によって悪用される可能性が高いとブローカート氏は警告する。
アメリカ国内のユダヤ人を標的としたテロ計画の急増
2024年以降、アメリカ国内でユダヤ人を標的としたテロ事件が相次いでいる。
2024年9月4日：FBIとカナダ当局は、20歳のパキスタン人ムハンマド・シャゼブ・カーンを逮捕。彼はISISの支援を受け、ニューヨーク・ブルックリンのユダヤ人センターでの銃乱射事件を計画していた。この事件は、ハマスによるイスラエル攻撃の記念日に合わせて実行される予定だった。
2024年10月8日：オクラホマシティで、アフガニスタン出身の27歳のナシール・アフマド・トーヘディが連邦捜査官によって逮捕された。彼はISISのオンライン活動家に扇動され、大統領選挙当日にテロ攻撃を計画。彼のiCloudやGoogleアカウントにはISISのプロパガンダが保存されており、ISIS支持のTelegramグループにも参加していた。
2024年10月18日：アリゾナ州の10代の少年マーヴィン・アニーア・ジャロが、フェニックス・プライドフェスティバルのパレードを狙ったISIS式のドローン攻撃を計画し、成人として起訴された。パレードのルートにはユダヤ人コミュニティセンターが含まれていた可能性がある。
2024年10月26日：シカゴで22歳のシディ・モハメド・アブドゥラヒが、シナゴーグに向かうユダヤ人男性を銃撃し、警察官にも発砲。現場で逮捕された。
2024年11月8日：ヒューストンFBIの対テロタスクフォースが28歳のアナス・サイドを逮捕。彼はISISのウェブデザイナーと共謀し、ヒューストンのユダヤ人施設を標的とした大量殺害事件を計画していた。
2024年12月18日：バージニア州のジョージ・メイソン大学の18歳の学生、アブドラ・エゼルディン・タハ・モハメド・ハッサンが逮捕された。彼はX（旧Twitter）で見たISIS関連のコンテンツに触発され、ニューヨークのイスラエル領事館への大規模攻撃を計画していた。計画には、ライブ配信による攻撃の実況や「殉教ビデオ」の制作が含まれていたと報じられている。
更なる大統領令の必要性
テロ分析の専門家であり、アルカイダやISISの影響工作に詳しいマイケル・S・スミス2世氏は、本誌に対し次のように語った。
「ソーシャルメディアの軍事化が進んだのと同様に、ISISやアルカイダをはじめとする幅広いテロ組織や過激派グループ、さらには多くの情報機関が、AIをグローバル・セキュリティに深刻な打撃を与える強力なツールとして利用するようになると考えるのは合理的だ」
また、スミス氏は次のようにも述べている。
「各国政府の対応は基本的に受動的なものになると考えているが、アルカイダやISISがソーシャルメディアを活用し、アメリカやその同盟国を脅かす能力を拡大した際の対応よりも、より強力な反応が見られるだろう」
ユダヤ系民主評議会（Jewish Democratic Council of America）のCEOであるハリー・ソイファー氏は、本誌に対し、火曜日に行われたドナルド・トランプ前大統領とイスラエルのベンヤミン・ネタニヤフ首相の会談を受けた声明を送付した。
「アメリカのユダヤ人は圧倒的にドナルド・トランプを拒否し、彼の政策やレトリックに強く反対している。なぜなら、それらは私たちの価値観と相反するものだからだ。今夜のネタニヤフ首相との記者会見も例外ではなかった」
Coalition for a Safer Webは、反ユダヤ的なテロ組織を無力化し、対処するために、公的機関と民間部門が取るべき複数の対策を提言した。
最優先事項として、ギンズバーグ氏はホワイトハウスが新たな反ユダヤ主義対策の大統領令を発令する必要があると主張している。2024年1月29日、ドナルド・トランプ前大統領は反ユダヤ的な嫌がらせや暴力への対策を強化する大統領令に署名したが、ギンズバーグ氏はこれに加えて、連邦政府がサイバーコンテンツの管理に特化した措置を明確に打ち出すべきだと提案している。
また、ギンズバーグ氏は、テロ組織への「物的支援」の定義を改正し、テロや過激派グループの扇動に利用される技術やソフトウェアの提供も違法とするべきだと指摘する。
現状のアメリカ合衆国法典では、「物的支援」には「有形または無形の...通信機器」としか記載されておらず、デジタルツール自体が明確に含まれていない可能性がある。
ギンズバーグ氏は本誌に対し次のように述べている。
「AIを活用し、敵対勢力に対抗するための対策を講じ、テロ対策の一環としてAIを駆使することが求められている。より包括的なアプローチを取ることが、国内テロの脅威を軽減する上で不可欠な要素となる」
＜生成AIを駆使したプロパガンダが、ISISやアルカイダによって強化されている。専門家は、アメリカ国内のローンウルフ型テロのリスクがかつてないレベルに達していると警告する＞
デジタル安全対策を推進する団体が本誌に対し、ISISとアルカイダがアメリカ国内のユダヤ人コミュニティに対するローンウルフ（単独犯）型のテロ攻撃を促すコンテンツを、人工知能（AI）を利用して強化していると警告した。
「この傾向は明らかだ」と語るのは、元米国大使でありCoalition for a Safer Web（安全なウェブのための連合）の会長であるマーク・ギンズバーグ氏だ。「この脅威はまったく新しいレベルに達しており、その浸透作戦がどれほど高度化しているかを誰も理解し、評価できていないと思う」と本誌に対して述べた。
米国国土安全保障省（DHS）の広報担当者は本誌に対し、同省が連邦、州、地方のパートナーと協力し、外国のテロ組織からの脅威に対処しながらアメリカ国民の安全確保に努めていると説明した。
2023年10月7日、パレスチナ武装組織ハマスがイスラエルを攻撃して以降の1年間で、名誉毀損防止同盟（ADL）はアメリカ国内で1万件以上の反ユダヤ的事件を記録した。これは1979年にADLが追跡を開始して以来、1年間で最多の記録となり、前年と比較して200%以上の増加となる。
攻撃の手口は、言葉や書面による嫌がらせ、器物損壊、身体的暴力など多岐にわたる。特に2023年の攻撃以降から1年後までの間に起きた1200件以上の事件は大学キャンパス内で発生したものだった。
生成AI利用で「身元を隠す」ことが安易に
2024年10月7日のハマス攻撃の1周年を迎えた後、Coalition for a Safer Webは、ISISやアルカイダが運営する多数のウェブサイトを確認。そこには、生成AIを活用した動画やプログラム、さらにはガザ地区の破壊や負傷したパレスチナ人の画像を用いたミームが掲載されていた。このようなコンテンツは、アメリカ国内のローンウルフ型のテロリストを引き付け、イスラエルの支持者、特にユダヤ人コミュニティに対する報復行為を扇動するために操作されているという。
2024年半ば以降、ISISとアルカイダはプロパガンダ活動を強化し、生成AI技術を取り入れていることが、ギンズバーグ氏とそのチームの調査で判明した。AIを活用することで、極端に洗練されたプロパガンダが作成され、さらにアルゴリズムの操作やSNS上のコンテンツへの侵入が可能となり、反ユダヤ的な行動を扇動する役割を果たしている。
「生成AIは、ISISとアルカイダが互いに覇権を争う戦略の一環として悪用されている」とギンズバーグ氏は本誌に語る。「彼らはガザ戦争を利用し、アメリカ国内に潜伏する支持者を扇動・勧誘しているが、組織のメンバーを直接アメリカに送り込むつもりはないようだ」
さらに、Coalition for a Safer Webは、AIソフトウェア開発者やコンテンツ制作者を募集する「求人広告」まで発見した。生成AIを活用したニュース番組は、アメリカ英語の音声をクローンし、若年層をターゲットにしたコンテンツを作成。これにより、若年層が影響を受け、潜在的なテロ攻撃を引き起こす可能性があると懸念されている。
また、生成AIの利用によって、ISISやアルカイダのウェブサイトは身元を隠しながら活動できるようになっているという。
Coalition for a Safer Webの調査によれば、『The Wolves of Manhattan（マンハッタンの狼）』『Mujahideen in the West（西洋のムジャヒディン）』『Voice of Khurasan（ホラーサーンの声）』といった出版物には、サイバー・プロパガンダの活用方法を解説するマニュアルやハウツーガイドが掲載されている。
ギンズバーグ氏は、TikTok、Instagram、X（旧Twitter）、YouTubeといったプラットフォームが「ハニートラップ」の役割を果たしていることを指摘。「これらのプラットフォームではコンテンツの監視が終了しているため、ISISやアルカイダが反ユダヤ的なコンテンツをより容易に拡散できる」と警鐘を鳴らした。
「新たなソフトウェア技術が登場するたびに、それが暗号化であれ、主要SNSのコンテンツ管理の終了であれ、テロ組織はあらゆる手段を駆使してそのシステムの穴を突こうとする」とギンズバーグ氏は述べた。「今回特に厄介なのは、我々が傍受したコンテンツが直接特定の発信源へと結びつく証拠を残さないことだ」
さらに調査では、「ターゲット特定パッケージ」と呼ばれるデータが発見された。そこには、ニューヨーク、マイアミ、シカゴ、デトロイトといったアメリカの都市にあるユダヤ人センターの写真や動画に加え、シドニー、メルボルン、トロントのユダヤ人施設の情報も含まれていたという。
AIの発展で脅威はさらに拡大する可能性
ギンズバーグ氏は、「もちろん」AIが発展するにつれて、テロの脅威も増大すると指摘する。「なぜなら、AIの制御が不可能になりつつあるからだ」と述べた。
「ここ数カ月前までは、アメリカの若者が利用する主流の暗号化・非暗号化プラットフォームにアクセスできていた」とギンズバーグ氏は本誌に語る。
「しかし、脅威レベルはますます悪化している。ADL（名誉毀損防止同盟）を含め、誰もがそれを認識しているが、実際に何か対策を講じているのか？」
オープンソース情報を用いた新興技術の研究を行うThe Soufan Groupのアナリスト、クララ・ブローカート氏は本誌に対し、「生成AIは、テロ組織にとって特定のニーズを満たすものでなければならない」と述べた。
ブローカート氏によれば、「非常に初期の段階から」、生成AIや合成コンテンツの作成は、極右、ネオナチ、反政府加速主義（アナーキスト）グループなど、過激派組織によって実験的に導入されていた。
「彼らのプロパガンダ活動において、生成AIは非常に有益だった」とブローカート氏は説明する。
「オンライン上の広大なネットワークを対象に、大量のプロパガンダを翻訳し、拡散することが可能になった。中央アジアの多言語地域から、西洋、南部のソマリア、モザンビークに至るまで、AIはその伝播を助けている」
ブローカート氏はCoalition for a Safer Webの見解に同意し、「生成AIはプロパガンダを検出しにくくする」と指摘した。しかし、テロ組織のプロパガンダ戦略そのものを大きく変革するほどの「決定的な要素ではない」との見解も示した。
「彼らはオンライン上で攻撃を扇動し続けているが、その多くはAIを使わずに行われている」とブローカート氏は述べる。「したがって、現時点ではテロ活動に直接的な影響を与えるとは考えにくい。しかし、今後、強力な予測分析機能が開発されれば、テロ組織の計画立案に大いに役立つ可能性がある」
ブローカート氏によると、AIは大規模言語モデル（LLM）を活用した情報収集を容易にする。例えば、2024年の元旦にラスベガスのトランプ・インターナショナル・ホテルで発生した襲撃事件では、実行犯がAIを用いてさまざまな情報を収集していたと指摘されている。
これは、テロ対策をさらに困難にする要因の一つとなっている。ChatGPTのような商用モデルは安全対策が施されているが、オープンソースのLLMは必ずしも適切に制御されておらず、テロ組織によって悪用される可能性が高いとブローカート氏は警告する。
アメリカ国内のユダヤ人を標的としたテロ計画の急増
2024年以降、アメリカ国内でユダヤ人を標的としたテロ事件が相次いでいる。
2024年9月4日：FBIとカナダ当局は、20歳のパキスタン人ムハンマド・シャゼブ・カーンを逮捕。彼はISISの支援を受け、ニューヨーク・ブルックリンのユダヤ人センターでの銃乱射事件を計画していた。この事件は、ハマスによるイスラエル攻撃の記念日に合わせて実行される予定だった。
2024年10月8日：オクラホマシティで、アフガニスタン出身の27歳のナシール・アフマド・トーヘディが連邦捜査官によって逮捕された。彼はISISのオンライン活動家に扇動され、大統領選挙当日にテロ攻撃を計画。彼のiCloudやGoogleアカウントにはISISのプロパガンダが保存されており、ISIS支持のTelegramグループにも参加していた。
2024年10月18日：アリゾナ州の10代の少年マーヴィン・アニーア・ジャロが、フェニックス・プライドフェスティバルのパレードを狙ったISIS式のドローン攻撃を計画し、成人として起訴された。パレードのルートにはユダヤ人コミュニティセンターが含まれていた可能性がある。
2024年10月26日：シカゴで22歳のシディ・モハメド・アブドゥラヒが、シナゴーグに向かうユダヤ人男性を銃撃し、警察官にも発砲。現場で逮捕された。
2024年11月8日：ヒューストンFBIの対テロタスクフォースが28歳のアナス・サイドを逮捕。彼はISISのウェブデザイナーと共謀し、ヒューストンのユダヤ人施設を標的とした大量殺害事件を計画していた。
2024年12月18日：バージニア州のジョージ・メイソン大学の18歳の学生、アブドラ・エゼルディン・タハ・モハメド・ハッサンが逮捕された。彼はX（旧Twitter）で見たISIS関連のコンテンツに触発され、ニューヨークのイスラエル領事館への大規模攻撃を計画していた。計画には、ライブ配信による攻撃の実況や「殉教ビデオ」の制作が含まれていたと報じられている。
更なる大統領令の必要性
テロ分析の専門家であり、アルカイダやISISの影響工作に詳しいマイケル・S・スミス2世氏は、本誌に対し次のように語った。
「ソーシャルメディアの軍事化が進んだのと同様に、ISISやアルカイダをはじめとする幅広いテロ組織や過激派グループ、さらには多くの情報機関が、AIをグローバル・セキュリティに深刻な打撃を与える強力なツールとして利用するようになると考えるのは合理的だ」
また、スミス氏は次のようにも述べている。
「各国政府の対応は基本的に受動的なものになると考えているが、アルカイダやISISがソーシャルメディアを活用し、アメリカやその同盟国を脅かす能力を拡大した際の対応よりも、より強力な反応が見られるだろう」
ユダヤ系民主評議会（Jewish Democratic Council of America）のCEOであるハリー・ソイファー氏は、本誌に対し、火曜日に行われたドナルド・トランプ前大統領とイスラエルのベンヤミン・ネタニヤフ首相の会談を受けた声明を送付した。
「アメリカのユダヤ人は圧倒的にドナルド・トランプを拒否し、彼の政策やレトリックに強く反対している。なぜなら、それらは私たちの価値観と相反するものだからだ。今夜のネタニヤフ首相との記者会見も例外ではなかった」
Coalition for a Safer Webは、反ユダヤ的なテロ組織を無力化し、対処するために、公的機関と民間部門が取るべき複数の対策を提言した。
最優先事項として、ギンズバーグ氏はホワイトハウスが新たな反ユダヤ主義対策の大統領令を発令する必要があると主張している。2024年1月29日、ドナルド・トランプ前大統領は反ユダヤ的な嫌がらせや暴力への対策を強化する大統領令に署名したが、ギンズバーグ氏はこれに加えて、連邦政府がサイバーコンテンツの管理に特化した措置を明確に打ち出すべきだと提案している。
また、ギンズバーグ氏は、テロ組織への「物的支援」の定義を改正し、テロや過激派グループの扇動に利用される技術やソフトウェアの提供も違法とするべきだと指摘する。
現状のアメリカ合衆国法典では、「物的支援」には「有形または無形の...通信機器」としか記載されておらず、デジタルツール自体が明確に含まれていない可能性がある。
ギンズバーグ氏は本誌に対し次のように述べている。
「AIを活用し、敵対勢力に対抗するための対策を講じ、テロ対策の一環としてAIを駆使することが求められている。より包括的なアプローチを取ることが、国内テロの脅威を軽減する上で不可欠な要素となる」