ウェブを駆使するテロ組織...生成AIが生み出す「新時代のプロパガンダ」

「生成AIは、ISISとアルカイダが互いに覇権を争う戦略の一環として悪用されている」とギンズバーグ氏は本誌に語る。「彼らはガザ戦争を利用し、アメリカ国内に潜伏する支持者を扇動・勧誘しているが、組織のメンバーを直接アメリカに送り込むつもりはないようだ」

さらに、Coalition for a Safer Webは、AIソフトウェア開発者やコンテンツ制作者を募集する「求人広告」まで発見した。生成AIを活用したニュース番組は、アメリカ英語の音声をクローンし、若年層をターゲットにしたコンテンツを作成。これにより、若年層が影響を受け、潜在的なテロ攻撃を引き起こす可能性があると懸念されている。

また、生成AIの利用によって、ISISやアルカイダのウェブサイトは身元を隠しながら活動できるようになっているという。

Coalition for a Safer Webの調査によれば、『The Wolves of Manhattan（マンハッタンの狼）』『Mujahideen in the West（西洋のムジャヒディン）』『Voice of Khurasan（ホラーサーンの声）』といった出版物には、サイバー・プロパガンダの活用方法を解説するマニュアルやハウツーガイドが掲載されている。

ギンズバーグ氏は、TikTok、Instagram、X（旧Twitter）、YouTubeといったプラットフォームが「ハニートラップ」の役割を果たしていることを指摘。「これらのプラットフォームではコンテンツの監視が終了しているため、ISISやアルカイダが反ユダヤ的なコンテンツをより容易に拡散できる」と警鐘を鳴らした。

「新たなソフトウェア技術が登場するたびに、それが暗号化であれ、主要SNSのコンテンツ管理の終了であれ、テロ組織はあらゆる手段を駆使してそのシステムの穴を突こうとする」とギンズバーグ氏は述べた。「今回特に厄介なのは、我々が傍受したコンテンツが直接特定の発信源へと結びつく証拠を残さないことだ」

さらに調査では、「ターゲット特定パッケージ」と呼ばれるデータが発見された。そこには、ニューヨーク、マイアミ、シカゴ、デトロイトといったアメリカの都市にあるユダヤ人センターの写真や動画に加え、シドニー、メルボルン、トロントのユダヤ人施設の情報も含まれていたという。

AIの発展で脅威はさらに拡大する可能性

ギンズバーグ氏は、「もちろん」AIが発展するにつれて、テロの脅威も増大すると指摘する。「なぜなら、AIの制御が不可能になりつつあるからだ」と述べた。