日本は“無防備”か 選挙で「ディープフェイク」はこう使われる

AIで合成された演説ビデオ。収監中であるはずのイムラン・カーン元首相が「勝利演説」を行っている

　2024年は、米国大統領選挙をはじめ、世界中で重要な選挙が相次ぐ「選挙イヤー」となっている。そこで注目されているのは、生成AI技術の進展による選挙戦術の変化だ。

　その中でも、ディープフェイク技術は従来の選挙キャンペーンの枠を超え、新たな情報戦略の中心に位置付けられている。一方、ディープフェイクは偽情報や誤情報の拡散、さらには選挙妨害を目的とした悪用も懸念されている。

●ディープフェイクは「民主化」している

　ディープフェイクは以前から存在したが、ここ数年の生成AI技術の進化がディープフェイクをさらに加速させている。画像生成においては、Midjourneyのような直感的なインターフェースを持つツールが普及し、専門知識がなくても数分で政治家の肖像画を作り出せる。

　音声合成の分野では、米ElevenLabsのようなAI企業が、わずか数分の音声サンプルから個人の声を再現する技術を実用化している。動画生成に関しても、英国のSynthesia、イスラエルのD-ID、HourOneといった企業が、テキストから自然な動画を生成するサービスを提供している。

　これらのツールの多くは、無料もしくは低コストで利用可能なことから、結果として、ディープフェイク作成のハードルは大きく下がり、誰もが容易に政治家の偽の発言を作り出せる環境が整ってしまったのである。

●選挙への影響事例

　2024年は、ディープフェイクによる具体的な影響が各国で報告されている。代表的なものをいくつか紹介する。

米国：バイデン大統領の偽のロボコール

　2024年1月、米ニューハンプシャー州の民主党予備選において、有権者のもとにジョー・バイデン大統領になりすました声で投票を棄権するよう呼び掛ける電話がかかる例が多発した。FBIの調査によると、この音声はAIを使って合成された自動音声通話、いわゆる「ロボコール」であり、選挙妨害を目的としていたことが判明した。

　それ以前にも、バイデン大統領が2024年大統領選への出馬を正式に表明した直後の2023年4月、米共和党全国委員会が「What if the weakest president we've ever had were re-elected（史上最弱の大統領が再選したら）」と投げかける合成動画を公開し、物議を醸した。

　AIが生成したこの動画は、バイデン大統領再選後の米国の未来を暗示するもので、バイデン大統領の勝利を報じるニュース映像に続いて、台湾での爆撃や、サンフランシスコの街路を埋めつくす武装警察、国境に押し寄せる移民、廃墟と化したウォール街といった終末的な世界を映し出している。現在もYouTubeで視聴可能だ。ただし、「改変または合成されたコンテンツ」という注釈がついている。