ウェブを駆使するテロ組織...生成AIが生み出す「新時代のプロパガンダ」

ユダヤ人コミュニティが標的に...AI悪用で進化するテロの脅威　Mohamed Nohassi-Unsplash

モニカ・セイガー
＜生成AIを駆使したプロパガンダが、ISISやアルカイダによって強化されている。専門家は、アメリカ国内のローンウルフ型テロのリスクがかつてないレベルに達していると警告する＞

デジタル安全対策を推進する団体が本誌に対し、ISISとアルカイダがアメリカ国内のユダヤ人コミュニティに対するローンウルフ（単独犯）型のテロ攻撃を促すコンテンツを、人工知能（AI）を利用して強化していると警告した。

「この傾向は明らかだ」と語るのは、元米国大使でありCoalition for a Safer Web（安全なウェブのための連合）の会長であるマーク・ギンズバーグ氏だ。「この脅威はまったく新しいレベルに達しており、その浸透作戦がどれほど高度化しているかを誰も理解し、評価できていないと思う」と本誌に対して述べた。

米国国土安全保障省（DHS）の広報担当者は本誌に対し、同省が連邦、州、地方のパートナーと協力し、外国のテロ組織からの脅威に対処しながらアメリカ国民の安全確保に努めていると説明した。

2023年10月7日、パレスチナ武装組織ハマスがイスラエルを攻撃して以降の1年間で、名誉毀損防止同盟（ADL）はアメリカ国内で1万件以上の反ユダヤ的事件を記録した。これは1979年にADLが追跡を開始して以来、1年間で最多の記録となり、前年と比較して200%以上の増加となる。

攻撃の手口は、言葉や書面による嫌がらせ、器物損壊、身体的暴力など多岐にわたる。特に2023年の攻撃以降から1年後までの間に起きた1200件以上の事件は大学キャンパス内で発生したものだった。

生成AI利用で「身元を隠す」ことが安易に

2024年10月7日のハマス攻撃の1周年を迎えた後、Coalition for a Safer Webは、ISISやアルカイダが運営する多数のウェブサイトを確認。そこには、生成AIを活用した動画やプログラム、さらにはガザ地区の破壊や負傷したパレスチナ人の画像を用いたミームが掲載されていた。このようなコンテンツは、アメリカ国内のローンウルフ型のテロリストを引き付け、イスラエルの支持者、特にユダヤ人コミュニティに対する報復行為を扇動するために操作されているという。

2024年半ば以降、ISISとアルカイダはプロパガンダ活動を強化し、生成AI技術を取り入れていることが、ギンズバーグ氏とそのチームの調査で判明した。AIを活用することで、極端に洗練されたプロパガンダが作成され、さらにアルゴリズムの操作やSNS上のコンテンツへの侵入が可能となり、反ユダヤ的な行動を扇動する役割を果たしている。