AIで作るニセ情報「ディープフェイク」氾濫の脅威 まんまと騙され社会混乱、ニセモノ見抜くには
東洋経済オンライン / 2024年8月2日 9時0分
「アメリカ国防省の近くで爆発が起きたとするフェイク画像が拡散され、ダウ平均株価が一時下落」
「台風の豪雨により静岡県で水害が起きた際、町全体が水没したかのようなニセ画像が拡散され、県が冷静な対応を取るよう注意喚起を行った」
「フェイク音声で上司になりすました犯人から電話。ニセ者と気づかず、イギリスのエネルギー企業のCEOが現金を送金してしまった」
こうしたAIによって作られたニセ画像・ニセ動画・ニセ音声などの「ディープフェイク」が巧妙化している。
ディープフェイクとは、機械学習の1つのディープラーニングとフェイクを組み合わせた造語。もともとは画像や動画を合成して新たなコンテンツを作成する技術だったが、現在ではAIを使い本物と見紛うフェイクコンテンツを作成して悪用するケースが増えている。
本物と見分けがつかないフェイクコンテンツが増加
以前からニセ画像・ニセ動画・ニセ音声そのものは存在したが、かつては人間が目視で確認したり、音声を聞いたりすれば不自然だと判断できるものが多かった。
「顔や音声、体、言語など人間由来の情報を手に入れやすくなっているのはもとより、その情報を使って学習するAIの性能が進化している。AIに人間由来の情報を安価に作ってもらうことも可能になり、2018年頃から目視では本物と見分けがつかないフェイクコンテンツが増えていった」と国立情報学研究所シンセティックメディア国際研究センター長の越前功氏は話す。
つまり、作ろうと思えば、誰でもすぐに欲しいコンテンツが作れるような状況になっている。
だが、ひとくちにフェイクコンテンツと言っても、それらの作成に使われる技術はさまざま。例えば、人物の顔を対象としたフェイクコンテンツは、次の5つのタイプに大別できるという。
① 現実世界に存在しない顔全体をゼロから生成するもの
② 実在するターゲットの顔画像をもとに、髪の色や表情などを変更した画像を生成するもの
③ 実在するターゲットの顔の画像や動画に、攻撃者の表情を合成するもの
④ 実在するターゲットの画像や映像に、音声やテキストを合成することで、その人が話しているように見せかけるもの
⑤ 元となる映像の顔部分をターゲットの顔と入れ替えるもの
生成AIの進化で、とくに高度化が著しいのが①顔全体を合成するタイプだ。中でも元の画像データにノイズを加えたり、ノイズを取り除くことで新たな画像を生成する方法「拡散モデル」が注目されている。
この記事に関連するニュース
-
著名人を悪用したデマキャンペーンが拡大
PR TIMES / 2024年7月31日 12時15分
-
富士通、SNS上などのフェイクニュースに対し偽情報対策システムの開発を強化
マイナビニュース / 2024年7月19日 10時57分
-
イスラエルのAIサイバーセキュリティ企業Clarity、独自技術でフェイク動画見破る
Techable / 2024年7月10日 12時30分
-
SNS対応フェイク動画検知システムを開発
PR TIMES / 2024年7月9日 10時45分
-
豪首相が謝罪「AIの不祥事」に学ぶリスク管理 迫るEU法規制、日本企業も制裁の対象になる
東洋経済オンライン / 2024年7月5日 9時0分
ランキング
-
1歴史的円安、転換点か=日米金融政策、逆方向に
時事通信 / 2024年8月1日 18時40分
-
2“常温保存で大根が溶けた” 猛暑で野菜も“夏バテ” 暑さに負けない保存方法は?
日テレNEWS NNN / 2024年8月1日 19時46分
-
3「人気のあのコ、待ってました!」 マクドナルドのX、次回の「ハッピーセット」ヒント画像が話題に
J-CASTニュース / 2024年8月1日 19時25分
-
4転職して状況が悪くなった人は約半数 前職よりも悪くなったことの1位は?
ITmedia ビジネスオンライン / 2024年8月1日 17時15分
-
5夏休み「成績ぐんと伸ばす人」共通する1つの特徴 毎日勉強頑張りすぎ?自分との戦いに勝つ方法
東洋経済オンライン / 2024年8月1日 7時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)