AIで作るニセ情報｢ディープフェイク｣氾濫の脅威 まんまと騙され社会混乱､ニセモノ見抜くには

「例えば、実在の俳優に似た画像を生成して公開すればトラブルにつながる可能性がある。とくに業務などで画像生成や動画生成のサービスを利用する際は、権利上の問題がないデータのみから学習を行っているモデルを選ぶなど、学習元まで意識したうえで利用する必要がある」

個人的な趣味で作ってSNSに投稿した画像であっても、その内容が不適切であれば炎上などの大きなトラブルに発展する可能性がある。

「安易な気持ちで不適切なコンテンツの生成や公開を行わないために、子どもや若者に対するリテラシー教育を行っていくことも不可欠になる。そのコンテンツを作ることで世の中にどんな影響がおよぶか、その画像は本当に世界中に公開する必要があるのかを考える力をつける必要がある」

また、SNSなどで拡散されるフェイクコンテンツについては、プラットフォーム側の対策も不可欠だと越前氏は言う。

「プラットフォーマーは技術的な手段を持っていることが強み。例えば疑わしいコンテンツを一時的にフィルタリングして、その後に目視で人間が確認するなど、技術を活用して効率を上げながら対応していくことも可能になりつつある。対策がされるとすぐに抜け道が生まれるため、いたちごっこではあるが、プラットフォーム側が対策をする効果は大きい」

ディープフェイクの拡散やそれにともなう問題は、1つの方法だけで解決するものではない。だが、ディープフェイクの氾濫は、偽情報によって世の中を混乱に陥れるインフォデミックにもつながる重大な問題だ。

だからこそ真贋判定やサイバーワクチンなどの技術的な対策に加え、コンテンツに向き合うユーザーの姿勢、そしてプラットフォーマーによる対策など、さまざまな方面からのアプローチが不可欠になる。

酒井 麻里子：ITジャーナリスト／ライター