あなたはディープフェイクに騙されてない?合成顔と本物の顔を区別できる確率は48%
Techable / 2022年2月22日 10時0分
イギリスのランカスター大学とカリフォルニア大学バークレー校の共同研究チームは、最新のAIテクノロジーで生成された人間の顔(合成顔)の画像と、本物の人間の顔の画像を区別できるかという実験を行いました。
研究チームによると、それら2つの区別をつけるのは難しく、「ディープフェイク」を防ぐためのセーフガードの必要性を訴えています。
ディープフェイクを見抜くのは至難の業私たちの生活にとって身近な存在となりつつある便利なAIですが、悪意を持った者が使うことで、恐ろしい事例が起きていることも事実。
たとえば、AIが合成したテキスト・音声・画像・映像は、詐欺やプロパガンダ、またいわゆる「リベンジポルノ」などでも利用されています。
なかでも、とくに悪用される可能性が高いというディープフェイクについて、イギリスのランカスター大学とカリフォルニア大学バークレー校の共同研究チームが実験を行いました。ディープフェイクとは、「深層学習(ディープラーニング)」と「偽物(フェイク)」を組み合わせた混成語で、AIが生成する人物画像合成テクノロジーのことを指します。
今回の実験では「StyleGAN2」と呼ばれる最新のAIが使用されたとのこと。まず第一回目の実験では、315人の参加者が800人の顔から128人の顔を「本物か、合成の顔か」に分類しました。その結果、正解率は48%にとどまったとのこと。本物か偽物かを区別できた確率が「半分(約50%)」だったということは、315人の参加者は実質的にはAIと本物を区別できていないことになるでしょう。
合成の顔のほうが信頼されている結果に次に二回目の実験では、219人の新しい実験参加者に顔の分類方法(見分け方)をトレーニングし、フィードバックを実施。しかし、事前にトレーニング三を行ったにもかかわらず、AIと本物の区別の精度は59%にしか向上しなかったようです。
そして三回目の実験です。今回は223人の参加者に、同じ800人の顔から選んだ128人の顔の信頼度を、1(非常に信頼できない)から7(非常に信頼できる)の尺度で評価してもらいました。その結果、驚くことにAIによる合成顔の平均評価値は、本物の顔の平均評価値よりも7.7%信頼度が高かったといいます。
つまり、本物の顔と比較してもAIによる合成顔のほうが実験参加者に与える「信頼度」が高いことがわかりました。この結果について研究チームは、AIにより合成された顔は、いわゆる「平均的な顔」に似ているため、より信頼性が高いと判断されるのではないか、と考えているようです。
研究チームは今後ディープフェイクへの対策として、「画像や映像の合成ネットワークに電子透かしを組み込み、ユーザーのもとに届く段階で、確実に識別できるようにする」などのセーフガードを検討すべきとしています。
AI-synthesized faces are indistinguishable from real faces and more trustworthy
(文・Takeuchi)
外部リンク
この記事に関連するニュース
-
イスラエルのAIサイバーセキュリティ企業Clarity、独自技術でフェイク動画見破る
Techable / 2024年7月10日 12時30分
-
AIと分からないレベルの自然な会話で、100%AI対応のコールセンター実現か|YCが支援するVocode社の技術に注目
Techable / 2024年7月8日 12時0分
-
これも偽広告? 巧妙化するマルバタイジングに警戒を
マイナビニュース / 2024年7月5日 8時6分
-
アドビ、フェイク情報への懸念と生成AIの影響についてのグローバル調査を実施
PR TIMES / 2024年6月25日 12時15分
-
植物で「より母乳に近い粉ミルク」の大量生産が可能に? 新たなHMO生産法が大人にも「朗報」なワケ
ニューズウィーク日本版 / 2024年6月21日 21時15分
ランキング
-
1サイバー攻撃による流出情報元に「突撃取材するのはやめて」 ニコニコ運営代表が新聞社に警告、記者名も把握
J-CASTニュース / 2024年7月18日 19時35分
-
2札幌市イオンモールの駐車場が子育て世代に優しいと話題 気遣いの“言葉”に「これ素敵すぎる」「涙が出ちゃった」と称賛の声
ねとらぼ / 2024年7月18日 8時0分
-
3楽天の「ポイント運用」を約1年間やってみた 運用益はどうだった?
Fav-Log by ITmedia / 2024年7月18日 6時50分
-
4Type-Cケーブル1本で、4K映像を2画面出力できる!ドッキングステーション
ITライフハック / 2024年7月19日 11時0分
-
5プロが本気で“アンパンマンの塗り絵”をしたら…… 衝撃の仕上がりが360万再生「凄すぎて笑うしかないww」「チーズが、、、」
ねとらぼ / 2024年7月18日 22時0分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)