バズらせて「日本を孤立」させる…知っておきたいディープフェイクなどが使われるSNS情報戦の脅威
TBS NEWS DIG Powered by JNN / 2024年9月27日 20時0分
「米国の同盟国である日本の失敗を強調し周辺国に害を与えると思わせる」
あるSNSの虚偽情報の投稿と拡散に関する報告書に記されていた言葉です。
みなさんがする“いいね”や“リポスト”、もしかすると誰かの策略にのせられてしまっているかもしれません。
ディープフェイクが情報戦で使われる
「ITを利用し媒介して人々を欺くもの、これも虚偽情報です」
情報セキュリティの専門機関「情報処理推進機構(IPA)」の小山明美グループリーダーは、情報セキュリティ白書2024で「虚偽を含む情報拡散の脅威と対策の動向」を注目のトピックとして特集しました。
インターネット上の虚偽情報の生成や拡散で、社会の混乱や分断、対立が、近年深刻さを増していると指摘します。
「選挙における世論誘導や中傷扇動、新型コロナ対策に関する混乱、あるいは陰謀論の広がり。ロシア・ウクライナやイスラエル・ハマス間の武力衝突といったようなものでも、サイバー情報戦、認知戦と脅威が大きな問題となっています」
代表的な例として、男性が子どもたちを瓦礫から救出する画像があります。
写っている人物たちの繋がり方などが不自然で、ディープフェイクで作られた画像だと言われているということです。
こうした画像の生成は「戦争の被害に遭うかわいそうな子どもたち」という印象を与え、相手の非道さを強調することが目的といわれます。
都合よく抽出した事実や虚偽を並べ、仮定に過ぎないストーリーを、正しいストーリーに見せる。こうした意図に基づくストーリーは「ナラティブ」と呼びます。
「情報戦」とは、虚偽情報を拡散することによって、相手の社会混乱や政府機関の信用失墜を目的とする、情報操作型のサイバー攻撃によって行われるということです。
では、どうやって戦略的に虚偽情報を拡散させるのか、小山さんは、人間の感情や心理がうまく利用されていると指摘します。
“怒り”など強い感情が利用される
欧州評議会による情報の拡散の分類です。
「誤情報」は事実の誤認や、過失によって誤解を招く文脈で発信される、故意や悪意のない情報です。
「偽情報」は社会や公益への攻撃を目的とした害意のある情報です。偽の情報だけではなく、誤った文脈や操作された内容で拡散される真の情報も含まれます。
「悪意ある情報」はリークやハラスメントなど害意を持って広められる真の情報で、機密情報や個人情報の暴露を含むこともあります。
偽情報は自分の利益や主張を優位にしようと拡散され、その際には情報の正確性が歪められたり、より強い感情を想起させる人の認知バイアスが加味されると小山さんは言います。
「偽情報は強い怒りを喚起することが多いと研究でも指摘されています。真偽の判断に関わらず、投稿のシェアやリポストを促進するという研究の示唆もあります。感情を操作されたユーザーに加えて、インフルエンサー、国家や組織の支持者が拡散➡増幅➡拡散を行っているというようなことが懸念されています」
小山さんは誰かの意図に沿ったものであると報告があったという例をひとつ紹介してくれました。
去年8月の東京電力福島第一原発のALPS処理水の海洋放出です。
この時、処理水をめぐって「魚の大量死は処理水の影響」「日本政府は汚染水を処理せず原発からそのまま放出」などといった多くの虚偽情報が発信されたということです。
これらは処理水放出に批判的な立場から発せられたため、処理水を「核汚染水」と呼ぶ印象操作も行われました。
中には、海水面の変色など、中国の動画サイトで拡散されていたトピックが日本語に訳されてSNS上で拡散されていた例もみられたということです。
「これらの偽情報はアメリカの同盟国である日本の失敗を強調し、周辺国に害を与えると思わせることによって、日本を世界から孤立させるとともに、日本国内の世論の分断を扇動したものとみられるという報告もあります」
小山さんは、情報操作に対しては、複数の情報源に当たるといった冷静な対応が望ましいといいます。
「例えば震災等の特異な状況ですと、使命感ですとか、正義感といったような強い感情で悪意がなくても不確実な情報を拡散してしまうというユーザーも多くいるようです。ITサービスの利用者側にも不確実な情報の拡散に対しては意識の向上が求められます」
7月に発刊された情報セキュリティ白書2024では注目のトピックとして「虚偽情報とAIのセキュリティ」を取り上げています。
情報処理推進機構のWEBサイトから無料でダウンロードすることができます。
取材協力:情報処理推進機構(IPA)セキュリティセンター 企画部 調査グループ グループリーダー 小山明美(こやま・あけみ)
(TBS NEWSDIG オリジナル配信番組:知るテック より)
この記事に関連するニュース
-
McAfeeが新たなAndroidのマルウェア「SpyAgent」を発見
PR TIMES / 2024年9月19日 14時15分
-
PC画面全体に偽メッセージが表示され操作不能に…… これまでの偽セキュリティ警告と違う手口が増加、IPAが注意喚起
ねとらぼ / 2024年9月18日 17時30分
-
サポート詐欺の対処法が効かない──画面全体に偽メッセージが表示され操作不能になる手口 IPAが注意喚起
ITmedia NEWS / 2024年9月17日 16時12分
-
韓国人が“集中ターゲット”とはいうけれど…女優パク・ギュヨンも、ディープフェイク被害に「厳重に対応する」
Wow!Korea / 2024年9月4日 13時58分
-
楽天、ヤフー、Amazonなどを装った検索結果からの“サポート詐欺”に注意 IPAが呼びかけ
ASCII.jp / 2024年9月3日 12時0分
ランキング
-
1ホテルに17歳少女の遺体 共に入室の男性は行方不明 大阪・道頓堀
毎日新聞 / 2024年9月29日 10時10分
-
2河川の水かさが急激に増した能登大雨、「狭い川幅」と「河口までの短さ」が被害拡大の要因か
読売新聞 / 2024年9月28日 19時30分
-
3アジア版NATOで核共有検討を=「在グアム自衛隊」提案―石破氏
時事通信 / 2024年9月29日 0時13分
-
4激安EC「Temu」が答えた!"利用者が抱くギモン" 安すぎるし品質は大丈夫なのか?質問への答え
東洋経済オンライン / 2024年9月27日 10時35分
-
5「必ず会えると信じている。諦めない」中3女子生徒不明、父や友人が捜索 能登豪雨1週間
産経ニュース / 2024年9月28日 19時6分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください