生成ＡＩによる偽動画、選挙前に日米で拡散…「欲まみれの落選必須議員」「トランプ票破棄」

［生成ＡＩ考］第４部　混乱の先に＜１＞

　「ＦＢＩ（連邦捜査局）はテロ攻撃が発生した可能性があると発表した。投票所に行かないように」

　米大統領選の投票日前日の４日、米ＣＢＳの偽のニュース番組がＳＮＳ上で拡散した。事態を重くみたＦＢＩは５日、「映像は偽物」と周知する声明を発表した。映像はロシアと関連のあるグループが生成ＡＩ（人工知能）を用いて作ったとみられ、即座に削除された。

　１０月末には激戦州ペンシルベニアで、選挙管理委員会の関係者を装った男が「トランプなんか、くそくらえだ」とつぶやきながら共和党のトランプ次期大統領に投じられた郵便投票用紙を次々と破る偽動画がＳＮＳ上で拡散した。

　米大統領選を巡り、米欧メディアは「かつてない規模の偽情報や陰謀論がネット上に飛び交った。米国の敵対勢力が選挙干渉を強めた」などと振り返った。投票日が近づくにつれ、ロシアや中国などに関連するグループが偽画像や偽動画などを相次いで投稿し、選挙介入を強めたという。

　米調査機関「民主主義を守る同盟」シニアフェローのブレット・シェイファ氏は、中露などの工作について「米国をさらに分断させ、混乱をもたらすのが狙いだ。ロシアは友好的なトランプ氏の支援を図った」と説明した。偽情報によって「米国内の分裂が深まり、暴動の種となれば、米政府は沈静化に注力せざるを得ず、国際情勢に目が向かなくなる」と指摘する。

　生成ＡＩの急速な技術向上が、大量の精巧な偽画像や偽動画を瞬時に作り出すことを可能にし、敵対候補をおとしめる真偽不明の情報が陣営や政党、支持者からＳＮＳで無数に発信された。ＳＮＳを多用する人が自分と似た意見の人とばかりつながり、考え方が極端になる現象「エコーチェンバー」が広がり、分断を一層深めたと指摘される。

　バイデン政権はＡＩ規制の法整備を進めると打ち出したが、大統領選には間に合わなかった。全米２０州でＡＩを規制する州法ができ、ＡＩで作成した選挙関連の偽情報流布を禁じる州もあるが、効果は限定的だった。米市民団体「民主主義と技術のためのセンター（ＣＤＴ）」シニア政策アナリストのティム・ハーパー氏は「偽情報拡散に関する連邦法を政府は早急に整備する必要がある」と求めた。

　日本で衆院選が公示された１０月１５日前後から、首相経験者の声を学習させたとみられるＡＩ音声で「反自民党」の内容を語らせる偽動画が拡散した。岸田前首相のＡＩ音声を利用したとみられる動画では、自民党を中心に「落選必須議員」として１２０人以上を紹介し、「欲まみれ」などとコメントをつけながら「落選させよ」と呼びかけた。ユーチューブで３万回以上再生され、Ｘ（旧ツイッター）で拡散した。

　安倍元首相の声を学習させたとみられるＡＩ音声で、立候補者と世界平和統一家庭連合（旧統一教会）の関係を語らせる偽動画も投稿された。動画にはいずれも「本人の発言ではない」と注意書きがあったが、首相経験者の声を用いることで信ぴょう性を高めようとしたとみられる。

　総務省は公示前の１０月１１日、米メタ（旧フェイスブック）やＸなど１４社にネット上の偽情報対策を要請した。同省の担当者は「大規模な偽情報の発信は確認されなかった」と説明したが、公職選挙法には生成ＡＩに限った規定はなく、本格的な規制の議論も進んでいない。

　昨年９月、中欧スロバキア総選挙の２日前。第１党の座を争っていた親欧リベラル政党「プログレッシブ・スロバキア」（ＰＳ）のミハル・シメチカ党首らが票の買収を謀議した会話だとする音声が、秘匿性の高い通信アプリ「テレグラム」に投稿された。

　生成ＡＩが作成した偽音声だと判明したが、音声は別のＳＮＳに広がった。選挙はＰＳが次点となり、ウクライナへの軍事支援に反対した左派政党が政権を奪った。拡散したのは親露派の政治家らだ。ＰＳのヤン・ハーガシュ議員は「生成ＡＩが作る偽情報は民主主義の脅威であり、スロバキアの選挙は未来に対する警告だ」と訴えた。

◇

　生成ＡＩの弊害は多方面に及び、混乱が拡大している。人間社会はどのように生成ＡＩと共存していくべきか。道のりを探る。