ディープフェイクによる「偽情報」に注意を...各国で、選挙の妨害を狙った「サイバー工作」が多発

虚偽情報を含む電子書籍『蔡英文秘史』がSNSで流通

「エイズがインドを侵略するかもしれない」と題されたその手紙は、高名なアメリカの科学者が書いたことになっており、ウイルスの起源はメリーランド州にあるアメリカの化学・生物兵器研究施設であると指摘していた。30年経った今でもこの話を信じている人がいる。

この作戦は準備に数カ月を要し、ソ連系のメディアを通じて広めるのにさらに数カ月を要した。しかし今日では、AIとディープフェイクのおかげで、攻撃者は1日に何十もの工作キャンペーンを作り出すことができる。中国も同じようなパターンを踏襲しており、2021年1月に実施された台湾の総統選挙までの数週間、『蔡英文秘史』と題された300ページに及ぶ電子書籍をSNSやメールを通じて流通させている。この電子書籍には、蔡英文・前総統が性的な取引によって権力を手に入れたというスキャンダラスな虚偽情報が含まれていた。

現代の手法が革新的なのは、インスタグラム、ユーチューブ、ティックトック、その他のプラットフォーム上の動画という形で、AIが作成したプロのニュースキャスター風のアバターが、その電子書籍からスキャンダラスな暴露を読み上げるといった工作だった。本そのものが、AIによって「書かれた」可能性も十分にある。

これらの問題は、簡単に解決できるものではない。対策には、長期で面倒なプロセスが必要なだけでなく、当局側の透明性を高める必要がある。信頼できる社会を築くには、政府や自治体が信頼できる真実の情報をタイムリーに定期的に提供することが必要だ。大量に生み出されるAIの偽情報や信頼できそうなディープフェイクが出回るこれからの時代には、当局に対する信頼がなによりも大事になるだろう。

China is posting fake videos of president: sourcesSANTA? The videos, called The Secret History of Tsai Ing-wen, used virtual hosts, including some resembling newscasters, foreigners, and Santa Claus.A YouTube page shows videos created to attack President Tsai Ing-wen. pic.twitter.com/ulLmlUJL90— Rusic Dice (@Rockbowy1) January 10, 2024

Beijing is mass-posting videos featuring a false "secret history" of President Tsai Ing-wen (蔡英文) on hundreds of social media accounts in a disinformation push ahead of Saturday's presidential election.The Secret History of Tsai Ing-wen (蔡英文秘史) is a 300-page document... pic.twitter.com/SkJ5aT1xA0— Byron Wan (@Byron_Wan) January 11, 2024