日本は“無防備”か 選挙で「ディープフェイク」はこう使われる

●パキスタン：収監中の元首相が復活

　2024年2月に行われたパキスタン総選挙では、汚職の罪で2023年8月から収監中のイムラン・カーン元首相の声をAIで再現した「勝利演説」が拡散され、支持者を熱狂させた。

　カーン氏の政党であるパキスタン正義運動（PTI）は、獄中からのメモを基にAIで音声を合成し、過去の写真や映像と組み合わせて演説ビデオを作成。これをソーシャルメディアで公開し、140万回以上の視聴を記録した。

　このような技術の活用は、選挙活動に制約がある状況下でも政治家が有権者に訴える手段として評価する声がある一方で、収監中の政治家の発言をAIで再現することの倫理的問題や、選挙の公平性への影響も指摘されている。

●インド：AIによる多言語演説

　2024年4月から5月にかけて総選挙が行われたインドでは、与党インド人民党（BJP）がモディ首相のヒンディー語の演説をAIを使ってタミル語やテルグ語など8つの地方言語に翻訳し、それぞれの言語で音声合成した演説をネット配信した。

　BJPはヒンディー語話者の多い北部や中部地方を主な地盤としており、弱点である南部地方の言葉で訴えることで支持基盤を広げる狙いがあったとされる。

　これに対し、野党側は、この手法が地域の文化や言語の多様性を無視していると批判。また、AIによる翻訳の正確性や、合成音声がモディ首相本人の声と誤認される可能性についても懸念を表明している。

●ディープフェイク対策の現状と課題

　ディープフェイクに対する技術的な対策としては、いくつかスタートアップがディープフェイクの検出ソリューションを提供している。イタリアのミラノを拠点とするSensity AIは、ディープフェイク動画や音声の検出を得意としている。

　ディープフェイク動画の検出では、顔の動きの不自然さや瞬きの頻度、微表情の欠如、顔の境界部分や肌のテクスチャの一貫していない箇所などを分析し、ディープフェイク特有のパターンを検出している。

　また、カナダのトロントを拠点とするResemble AIは、偽音声の検出ソリューションを提供している。同社は音声のピッチ、フォルマント（声道の共鳴周波数）、テンポなどの特徴量を抽出し、自然音声と比較したり、自然音声では存在しないような高周波成分や特定の周波数成分の不自然な強調を検出する「スペクトル分析」などによって偽音声の検出を実現している。