｢ハワイ山火事の原因はアメリカの気象兵器｣とんでもないデマを中国共産党がSNSでばらまく怖すぎる理由

2023年8月9日、米ハワイ州マウイ島のラハイナで燃え広がる山火事（米ハワイ州マウイ島ラハイナ） - 写真＝AFP PHOTO／Zeke Kalua／County of Maui／時事通信フォト

■アメリカを動揺させる中国発のウソ情報

中国がAIを駆使し、オンラインで情報戦を展開しているおそれがあるようだ。フェイク画像で主張に信頼性を持たせ、アメリカの世論操作を試みている可能性があることが、Microsoftの研究者たちが発表した報告書から明らかになった。

Microsoft脅威分析センターの統括マネージャーであるクリント・ワッツ氏は9月、Microsoftのブログ記事を通じ、中国がAIで生成した映像メディアを広範な活動に利用していると警告。政治的な分断を煽るなどの目的で悪用していると指摘した。

また、Microsoftの研究者らが9月に発表した報告書は、中国がAIを駆使し、米国投票者を模倣するようなソーシャルメディアアカウントのネットワークを操り、偽情報を広めているおそれがあると指摘している。

報告書は生成AIを悪用した情報操作として、2つの実例を取り上げている。どちらもソーシャルメディアへの投稿に、AI画像を添えたものだ。1点目はアフリカ系アメリカ人に対する人種差別抗議運動「ブラック・ライブズ・マター」を支持する内容で、自動車の車内から狙撃される人物を描いた刺激的な画像となっている。

この画像は中国共産党系の自動投稿アカウントが最初に投稿し、その7時間後、アメリカの保守派有権者になりすました別アカウントによって再投稿された。

■マイクロソフトは「912特別作業グループ」との類似性を指摘

2点目は、銃犯罪が絶えない米社会を批判する画像だ。自由の女神が、本来左手に抱えている独立記念日の銘板を手放し、代わりにアサルトライフル（突撃銃）に持ち替えている。「暴力の女神」との文言が添えられている。Microsoftによるとこの女神画像も、中国関連の一連のボットが投稿したという。自由の女神には5本以上の指が描かれており、手の描写に弱い生成AIの特徴が表れている。

一連の情報操作キャンペーンについてMicrosoftは、中国公安省内のエリート班である「912特別作業グループ」の過去の活動と、高い類似性を持つと分析している。過去には投稿に単なるイメージ画像や手描きのイラストをプロパガンダに添えていたが、今回のようなAI画像はさらに人目を引く可能性があるとMicrosoftは指摘する。

同社の報告書は「以前より高品質になったこれらの視覚的コンテンツは、すでに正規のソーシャルメディアユーザーから高いエンゲージメントを得ている（多くの回数表示されている）」と分析している。投稿アカウントは、居住地をアメリカ国内と記載し、アメリカの政治的スローガンを投稿するなどで米有権者を装っていたという。

写真＝iStock.com／George Melin

※写真はイメージです - 写真＝iStock.com／George Melin

■ハワイ島の山火事でも「AIニセ画像」が拡散

8月8日に発生し、少なくとも115人が死亡したハワイ島の山火事についても、AI画像を使用した偽情報が拡散した。アメリカの「気象兵器」が空から放ったレーザービームが火災を起こしたとのフェイク情報だ。天地に走る鮮やかな光を捉えた動画がソーシャルメディアで拡散された。

AP通信はファクトチェックを行い、この情報をデマと断定した。記事は「広く共有されている動画は、今年初めにチリで起きた変圧器の爆発事故のものである」と述べ、まったく関連のない動画だと指摘している。

動画に捉えられた光はレーザービームではなく、地上の変圧器が爆発した結果生じたものだという。動画をよく見ると、小さな光の爆発がまず地上で起こり、その後に空への光の筋が浮かび上がる。天空からのビームではなく、爆発が地上で起きたことを示唆している。

さらに、指向性エネルギー兵器（DEW）の研究者であり、コロラド大学ボルダー校・国家安全保障イニシアティブセンターのディレクターでもあるイアン・ボイド氏は、AP通信に対し、「火災を引き起こすのに十分な熱量を持った近代的なレーザーは、赤外線を用いるため、肉眼で見えることはありません」と指摘する。

■投稿は中国のアカウントばかり…

ニューヨーク・タイムズ紙は、この動画とは別に、本件でもAI画像が使用されていたと報じている。記事は「投稿された写真はAIプログラムによって生成されたとみられる」と述べ、「偽情報キャンペーンの信憑性を高めるために、こうした新しいツールをいち早く利用したのである」と結論づけている。投稿に生成画像を添えたねらいについては、「投稿の信憑性を高める」効果があるとの分析だ。

画像を分析したMicrosoftの研究者によると、AI画像はネット掲示板「Reddit」のオランダ語版など、複数のプラットフォームで見つかったという。こうした画像は、一連の情報操作で使用されている中国のアカウントが専ら使用している。その他の場所では見られないことから、情報操作専用に生成されたAI画像だと推定される。

■「強制収容所を建設している」というウソが拡散

ハワイの山火事では、さらに悪質なデマがソーシャルメディアに出回った。被災した人々への救援活動を展開する米緊急事態管理庁（FEMA）の信頼性を失墜させ、支援活動を難航させる投稿だ。

動画は複数の簡素な住宅設備を映し、住民を収容する「強制収容所」をFEMAがハワイに建設しているとする内容だ。AP通信は「しかし、ビデオに映し出された住宅はFEMAが建設したものではなく、連邦政府がマウイ島火災で行っている継続的な施策とは何の関係もない」と指摘。「実際のところ、どのプロジェクトもマウイ島内には存在しない」とも述べ、偽情報であると警告している。FEMAは被災者への資金援助を行っているが、住宅の建設は実施していない。

写真＝iStock.com／webphotographeer

※写真はイメージです - 写真＝iStock.com／webphotographeer

映像に映し出されているのは、実際は退役軍人やホームレス向けに建設された南カリフォルニアの簡易住宅や、新型コロナのパンデミック時にオーストラリアで建設された隔離住宅などだ。これらの住宅は、FEMAが建設したものではない。FEMAのジェレミー・エドワーズ報道官はAP通信に対し、「FEMAが強制収容所を建設したという噂とそれを広める動画は全くの誤りです」とメールで証言している。

さらに偽情報の動画は、一部の住宅から伸びるダクトについて、「極悪非道な役人たちが、キャビン単位で簡単に毒ガスや無力化ガスを送り込むことができる」と虚偽の主張を行っている。カリフォルニア州チュラビスタ市のミシェル・クロック市長は、これらのパイプは消火設備であると解説する事態になった。

■政府機関や救助活動する人々を貶める狙い

ハワイの司法小委員会では、AIを含めた偽情報の影響が問題視された。出席したMicrosoftのブラッド・スミス副会長兼社長は、偽情報の拡散への怒りを露わにしている。同社は偽情報との闘いを繰り広げており、ハワイの災害後にはAIを活用した被害情報の把握を行うなど、災害時のAIの有効活用を模索している。

小委員会では中国に加えてロシアの情報工作が取り上げられた。スミス氏はその文脈を受け、ハワイのオンラインニュース局であるマウイ・ナウが公開した小委員会の動画のなかで、中露の工作を次のように批判している。

「私たちはアメリカとして、また他国の政府とともに、そして国民とともに立ち上がり、意見の相違を乗り越え、今日の世界には越えてはならない明確なラインが必要だと明言しなければなりません。地震やハリケーン、津波や洪水が発生したとき、世界はひとつになります。人々は寛大です。救いの手を差し伸べます」

「ですが、マウイ島の火事の後に起こったことを見てみましょう。それとは正反対だった。クレムリンの指示とは限らないが、日頃からロシアのプロパガンダを流している人たちが、ラハイナの人々が自分たちを助けてくれる機関（FEMA）に頼ることを思いとどまらせようとしていたのです。許しがたいことです」

「また、中国が仕向けたと思われる活動によって、問題の火災は米政府が気象兵器を使用したために起きたのだと、複数の言語で世界中を誘導しようとしているのを見ました。このようなことは、国際社会が一致団結し、断固禁止するよう合意形成に努めるべきです」

■偽情報に残る“中国政府”の痕跡

オンライン情報の真偽を検証するニュースガードは、米軍の気象兵器がハワイの山火事を起こしたとする偽情報の出所について検証している。中国政府との関連は断定できないものの、少なくとも中国語話者がオンラインの活動を推進しているという「強い証拠」を発見したという。

ニュースガードによると、気象兵器に関する偽情報はFacebookやX（Twitter）を含む、14の主要なプラットフォームで確認されたという。投稿は15の言語で実施されていたが、このうち中国語の投稿のみ、他の言語よりも少なくとも2日早く公開されていた。

さらに、他言語の記事の多くに奇妙な表現が散見された一方、中国語版の記事は比較的自然に読めた。こうした事実から、はじめに中国語で記事を執筆し、他言語の記事へ自動翻訳を行った可能性が疑われる。

写真＝iStock.com／NicoElNino

※写真はイメージです - 写真＝iStock.com／NicoElNino

■85のアカウント・ブログの共通点

加えて、投稿を行っていた85の偽アカウントとブログの特性が、ニュースガードが過去の調査で発見していた中国関連の情報操作と酷似していた。名前やプロフィール画像のパターンに共通点が見られたという。

デマ拡散に関与していたアカウントの一部は、親中国のメッセージを主に拡散していた。例えば、質疑応答プラットフォーム「Quora」で韓国語で情報を拡散していた特定のアカウントは、恋愛や宗教、技術的な質問などの投稿に対し、中国国内の反体制派やアメリカを批判するような、関連性の薄いコメントを中国語や英語で返していたという。

これらのアカウントはまた、2022年11月に中国で起きたゼロコロナ政策への抗議デモや、日本の福島原子力発電所からの処理水の放出などを批判していた。こうした話題は、中国の国営メディアが熱心にネガティブな報道を行っている内容とも重なる。

ニュースガードによる調査結果についての問い合わせを受け、Facebookの運営元であるMetaは、問題となっている一部のFacebookアカウントについて回答。同社が2019年から監視対象としている、中国のスパム行為アカウントと一致すると裏付けた。

■「AIが生成した架空の人物の映像を国家ぐるみで拡散」

AIを用いた偽情報は、動画の形でも広がっている。ソーシャルメディア分析会社の米グラフィカは、親中派の政治スパム集団「Spamouflage（スパムフラージュ。スパムとカムフラージュの造語）」が製作した偽のニュース番組をネット上で発見した。グラフィカは、「AIが生成した架空の人物の映像を国家ぐるみで拡散していることが確認された、初の事例」であるとしている。

動画では、スーツを着たニュースキャスター風の男性および女性がカメラに向かい、中国共産党に与する情報を伝えている。ある動画では、米政府が銃暴力に関して「偽善的かつ空虚なレトリック」を繰り返していると批判。別の動画では、世界経済の回復のために中国とアメリカの協力が不可欠であると主張していた。画面隅に番組ロゴを表示し、実在のニュース番組であるかのように装っている。

長さは最大でも3分ほどで、映像は架空のニュースキャスターのAI動画に合成音声を重ねたものだ。背景にはストック映像などを使用していた。質は非常に低く、「粗雑であり、スパム的な性格が強い」とグラフィカは論じている。再生回数が最大でも300回を割り込んでいることから、現時点では説得力のあるコンテンツ作りに苦労しているとの見方を示した。

写真＝iStock.com／Gwengoat

※写真はイメージです - 写真＝iStock.com／Gwengoat

■事実とフィクションの境界線が曖昧になる

一方、ニューヨーク・タイムズ紙は本件を取り上げ、こうしたディープフェイク動画が「情報戦の新たな章を開くものである」と危険性を指摘している。製作に用いられたソフトウエアは、本来は従業員向けのトレーニング動画の作成などを想定した市販のもので、月額30ドル（約4500円）程度で利用できる。

同紙は、容易に利用できるこのようなソフトウエアが「事実とフィクションの境界線を曖昧にし、まったく事実に基づかない人物を作り上げることもできる」と述べ、悪用に懸念を示している。

こうしたAIによる偽情報とは別に、Microsoftの報告書は、中国政府は技術を進化させながら、より多くの言語・プラットフォームで影響力を高める施策を続けてきたと指摘する。たとえば、主要な西側諸国のプラットフォームに独立したインフルエンサーを装った230人を超える国営メディアの従業員・関連会社を配置し、中国共産党に親和的な情報を拡散している。

インフルエンサーは中国国際放送（CRI）や他の中国国営メディア組織によって採用、訓練、昇進、資金提供を受け、地域に合わせた中国共産党のプロパガンダを巧みに広めている。実際に、世界中の視聴者と結びつき、合わせて少なくとも1億300万人のフォロワーを抱え、情報はプラットフォームを通じて40の言語で発信されているという。

■日本の災害でも悪用されるおそれがある

情報戦は世の常とはいえ、とくに災害時の誤情報拡散については、越えてはならない一線を越えてしまった。自宅を失ったハワイの被災者たちが資金面での早急な援助を必要としているなか、支援当局が毒ガス付きの収容所を建設しているとの風説が流れれば、住民としては支援の申請を躊躇せざるを得ない。FEMAについては、資金援助を申請すると土地を強制収用されるとの偽情報も拡散し、被災した住民たちに困惑が広がった。

AI画像を用いた偽情報の拡散は、現在のところアメリカを主なターゲットとしているようだ。銃問題や人権問題を題材に国内の分断をあおり、また、ハワイの災害がアメリカ自身の気象兵器によるものだったなどの陰謀論を拡散している。

だが、日本としてもひとごとではない。大災害が起きた際、海外発のデマが日本に仕向けられないとも言い切れない。ただでさえ情報が錯綜(さくそう)しがちな災害時において、円滑な支援が妨げられるおそれがある。

近年、ソーシャルメディアはもはや災害対応の必須級のツールとなっている。大雨や地震など近年の災害においては、消防への救助要請がつながらない際、ソーシャルメディアに特定のハッシュタグを付けて投稿し、関連当局の目に留まる事例が多く報告されている。そのほか、取るべき行動や避けるべき行動など知見が交わされる例も多い。

■ネットのウソを野放しにしていいのか

万が一にも日本在住のユーザーを装い、海外から偽情報が混ざるようなことがあれば、ネットは善意の情報に頼れる場ではなくなってしまうだろう。文字情報ですら混乱の種となるおそれがあるが、目を引きやすく信憑性も帯びやすいAIのフェイク画像が添えられていたとすれば、誤情報拡散のリスクは一段と高まるだろう。

こうした事態が起きないことを望むが、AIは格段に進歩し、リアルな画像を容易に生成できるようになってきている。Microsoftのスミス氏が提言するように、国際的な法規制を検討すべき段階に来ているのかもしれない。

----------

青葉 やまと（あおば・やまと）
フリーライター・翻訳者
1982年生まれ。関西学院大学を卒業後、都内IT企業でエンジニアとして活動。6年間の業界経験ののち、2010年から文筆業に転身。技術知識を生かした技術翻訳ほか、IT・国際情勢などニュース記事の執筆を手がける。ウェブサイト『ニューズウィーク日本版』などで執筆中。

----------

（フリーライター・翻訳者 青葉 やまと）