「マジで悲惨すぎる…」被災の画像、実はディープフェイクだった 高まる生成ＡＩの悪用懸念にどう向き合う？

２０２２年９月、当時のツイッターに投稿された、静岡県内の街が水没しているように見える虚偽の画像

　今から２年前の２０２２年９月２６日未明、ツイッター（現Ｘ）に突然「水害」の画像が投稿された。

　ある画像は多くの民家が水の中に沈んでいるように見える。建物の屋根や樹木のてっぺん辺りまで濁流に漬かっているようなものもある。いずれも高い位置から見下ろす構図で、大きな被害を感じさせる内容だった。投稿者は「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」とコメントしていた。

　静岡県は当時、台風１５号による記録的な大雨に襲われたばかりだった。画像は衝撃的な場面として、瞬時にインターネット上で拡散。数千件のリツイートがあった。しかし投稿者はその後、別の投稿で画像は生成人工知能（ＡＩ）を使ってつくったものだと明かした。

　ＡＩの進化により、巧妙な偽の画像など「ディープフェイク」の脅威が高まっている。私たちはどう向き合えばいいのか。現状と課題を探った。（共同通信＝中川亘）

　▽災害現場に混乱の恐れ、人命救助で懸念も

　静岡のフェイク画像は、イギリスの新興企業が手がける画像生成ＡＩ「Ｓｔａｂｌｅ　Ｄｉｆｆｕｓｉｏｎ（ステーブル・ディフュージョン）」でつくられたとされる。投稿者は当時「今までの投稿から、自らの投稿が広まるとは思えなかった」とし、謝罪した。はっきりとした目的や計画はなかったという。

　ステーブル・ディフュージョンは利用者が単語や文章でつくりたい画像を指示すれば生成される仕組みで、専門知識がなくても使うことができる。こうした画像生成ＡＩには多くの種類があり、世界中に利用者がいる。

　危機管理サービスを手がける「スペクティ」（東京）は災害が起こると、顧客である自治体や企業にとって必要な情報を瞬時に収集し、提供する。情報源は交流サイト（ＳＮＳ）の投稿、気象データ、河川カメラなどさまざまで、中でもＳＮＳは被災地の状況を速やかに把握するのに役立つという。

　ただ関係のない過去の災害の画像が今の出来事として投稿されるなど、ＳＮＳには正確かどうか分からない情報もあり、精査は欠かせない。これまでスペクティでは多くのフェイク画像を分析してきたが、村上建治郎最高経営責任者（ＣＥＯ）は静岡の水害の事例で「潮目が変わった感じがする」と話す。手軽に画像をつくり出せる生成ＡＩが注目を集めたためだ。

　災害時に偽の情報が出回ると「救助などの判断が難しくなり、現場が混乱する」と村上氏。例えば、本来なら急いで救助に向かわなければならない現場があるのに、別の場所に人が取られる恐れがある。その結果、対応が遅れ「助かる命が助からなくなるかもしれない」と危機感を示す。

危機管理サービスを手がけるスペクティの村上建治郎ＣＥＯ＝７月、東京

　▽よく見ると不自然？人の目では真偽の判別が難しく

　ＡＩでつくった画像を人の目で見抜くことはできるのだろうか。

　スペクティが試験的に生成した水害の画像。市街地で複数の車が水没している様子を写したように見えるが、細部を確認すると看板の字が読めなかったり、水面が不自然だったりする。スペクティによると、こうした文字や水の様子は生成画像かどうかを判別するポイントの一つだといい、静岡のフェイク画像も、水の流れなどにおかしい点があったという。

　このように目視で違和感を覚える生成画像はあるものの、技術の進歩によって真偽の判別は難しくなっているのが実情だ。スペクティは画像のデータや写っている道路標識などの物体を基にＡＩがフェイクかどうかを判定し、人がその結果をチェックしている。静岡のフェイク画像についても投稿当時に分析し、顧客らに「デマだ」と注意を呼びかけた。

　では一般のＳＮＳ利用者は、災害時にどのような心構えでいればいいのか。村上氏は「アップされた一つの情報だけを見て真実だとは思わず、複数のソースを確認することが最も大切だ」と強調する。

スペクティが試験的につくったフェイク画像。看板の文字や水に不自然さがある＝スペクティ提供

　▽フェイクの動機、多いのは…

　フェイクの被害は世界で深刻化している。実態を調べた三菱総合研究所によると、フェイクを仕掛ける動機で多いのは「金銭」と「政治」で、投資詐欺や政治家への誹謗中傷といった行為が目立つ。画像だけでなく偽の音声や動画を使うなど手口は多様化、高度化している。

　具体的な事例では２０１９年にイギリスで、ＡＩでつくったとみられる偽の音声に会社幹部がだまされ、２２万ユーロ（約３５００万円）を口座に振り込むという詐欺事件が起こった。２０２４年は、偽のビデオ会議によって２億香港ドル（約３７億円）がだまし取られる事件があった。ウクライナのゼレンスキー大統領がロシアへの降伏を呼びかける偽動画の拡散など、情報操作とみられる攻撃もある。

　特にフェイクの悪影響が懸念されるのは選挙だ。２０２４年にはアメリカのバイデン大統領を装った音声で、大統領選予備選の投票を見送るよう促す電話がかけられる問題が発生した。人気歌手テイラー・スウィフトさんが、トランプ前大統領を支持しているかのようなフェイク画像も出回った。スロバキアでは２０２３年、政党党首とジャーナリストの偽の会話音声などが、接戦の選挙に深刻な影響を及ぼしたという。

　各国の法規制の動きでは、イタリアが有害なディープフェイクに３年以下の懲役を定めるなどの厳罰化を検討。イギリスは性的なフェイクである「ディープポルノ」の作成を違法とする考えだ。

　三菱総研の飯田正仁研究員は偽情報の流通をなくすことは不可能だとして「ウィズフェイクの時代」に入ったとの見方を示す。フェイクの存在を前提に、被害をできるだけ抑えることが重要で、日本では「まずフェイク検知などの技術対策やルールづくりを進めることが重要だ」と説明する。特に技術対策では世界をリードできる素地があるという。中長期的には情報の受け手のリテラシーを高めることが必要とも述べる。

三菱総合研究所の飯田正仁氏（右）と高橋怜士氏＝８月、東京

　▽進化する技術、自律性を備えるＡＩ

　ＡＩの進化は止まらない。新たな技術の一つとして注目を集めるのは「ＡＩエージェント」だ。自律性を備えているのが特徴で、利用者が明確な指示を与えなくてもＡＩ側で意図をくみ取り、自ら戦略を練ることができるという。

　三菱総研はこうした技術が悪用され、フェイクがさらに高度になるリスクにも警鐘を鳴らす。例えば「この人は上司を装ったメールにひっかかりやすい」「この人には仕事の締め切りの時期に合わせて仕掛ける」とＡＩが個人ごとにフェイクの方法を計画し、実行する―。こんなイメージだ。

　ウィズフェイク時代では、私たちの情報への向き合い方も大きく変わりそうだ。飯田氏は、信頼できる情報源を考えておく必要があるとした上で「情報を手に入れる経路をインターネットだけにせず、多角的にすることも対策になり得る」と話す。高橋怜士主任研究員は「基本的なことかもしれないが、ある情報を賛成・反対それぞれの立場から見たり、他の人に考えを聞いてみたりすることが、処方箋になるのではないか」と述べた。