もう電話の声を信じてはいけない!? 声色模倣の詐欺電話 AIでサイバー攻撃がますます巧妙化
TBS NEWS DIG Powered by JNN / 2024年9月20日 20時0分
取引先の会長の名前で「機密プロジェクトの協力依頼」とメールが届く
その後、取引先の専務の声色で「メールで連絡した件だ」と電話がくる
会話の内容に違和感があり本人か確認すると一方的に電話が切られた
去年、実際にあった事案です。もう“声”が模倣される時代。
AI技術の進化によって、ますます巧妙化するサイバー攻撃について、専門家が解説します。
声を模倣 不自然さ見抜くしかない脅威
「人の声を模倣する音声のディープフェイクの技術というのは、既に詐欺で利用されているというふうに言われています」
情報セキュリティの専門機関「情報処理推進機構(IPA)」の小山明美グループリーダーは、去年5月に起きた事例を紹介してくれました。
「機密プロジェクトへの協力を依頼したい。連絡はこのメールを介してのみとしてほしい。」
日本の企業A社の会長の名前でメールが、A社の海外関連企業B社の社長に届きます。
メールの差出人の表示名には会長の氏名が英語表記で書いてあり、アドレスも会長のメールアドレスに似た、実在しないメールアドレスが設定されています。
アドレスの@よりも前の文字列には、会長の名前が含まれていました。
実在する会計・法律事務所の名前や、この事務所に実際に所属する人の名前も書かれていました。
A社の会長を詐称したメールを受信した当日、A社の専務の名前で電話がきました。
「会長からメールで連絡した件のフォローアップをしている」
発信者電話番号は、A社の代表番号に偽装。
ただ、電話を受けたB社の社長が、やり取りの中で言っていることが本人ではないのではないかと疑問に思い、専務本人ではないことを指摘すると、一方的に電話を切られました。
このため金銭的な被害は発生しなかったということです。
「発信者の電話番号ですとか、声色だけで判断しないように注意することが必要です」
ただ、現時点ですぐにできる対策はまだないといいます。
「簡単に利用できる対策はまだありません。金銭にまつわるような電話は冷静になって、不自然さがないかといったことを注意したり、電話であれば折り返すというような他の連絡手段も合わせて確認するといったようなことが対策としては考えられます」
日本でははっきりとディープフェイクが使われたとする詐欺は確認されていないということですが、去年11月には岸田総理の偽動画が拡散した事例がありました。
“偽物”が簡単に作られる時代 「新しい情報を積極的に取り込んで」
岸田総理の偽動画は生成AIが使われていましたが、作成したのはAIの専門家ではありませんでした。
ただ1時間足らずで作成し、SNSに投稿していました。
小山さんは、AIの専門家ではなくても簡単に動画やイラストが作成でき、見た人には本物か偽物か判断が難しくなることが今後想定されると指摘します。
「フィッシングメールにも悪用されているのではないかと言われています。従来からの攻撃の手口がAIによって、より内容が巧妙になってパターンも増えて、件数が増えているのではないかと予想されています」
AIは人々の活動を劇的に変化させる技術として期待も大きい一方で、詐欺への悪用だけではなく、プライバシー保護、透明性、公平性、そして安全性といった様々な観点からの議論が日本だけでなく世界中で行われています。
日本ではことし2月にAIを安全に利用し、利便性を享受できるようにAIの安全性に関する評価手法や基準の検討などを行う「AIセーフティ・インスティテュート(AISI)」が設立されました。
また4月には、総務省と経済産業省が「AI事業者ガイドライン」を取りまとめ、公開しています。
小山さんは、現時点でAIのセキュリティが特別に必要なのではなく、これまで必要とされてきたセキュリティの対策を、継続していくことが重要だと指摘します。
「AIを悪用した攻撃もありますが、OSやソフトウェアの最新化、ウイルス対策ソフトの導入、パスワードの強化、共有設定の見直しとこのような基本的な行動、これを継続することが必要です」
そして、脅威や攻撃の手口、対策の情報に耳を傾けてくださいと呼びかけています。
「AIについてはまだまだ議論がされていて世界中で研究、あるいはガイドラインや法律の整備などが続いている状態です。新しい情報を積極的に取り込んで、自分にとってのリスクが大きくなっていないかということを確認していただきたいと思います」
ことし7月に発刊された「情報セキュリティ白書2024」では注目のトピックとして「虚偽情報とAIのセキュリティ」を取り上げています。
情報処理推進機構のWEBサイトから無料でダウンロードすることができます。
「知るテック」、次回は「虚偽を含む情報拡散の脅威と対策」について深掘りします。
取材協力:情報処理推進機構(IPA)セキュリティセンター 企画部 調査グループ グループリーダー 小山明美(こやま・あけみ)
(TBS NEWSDIG オリジナル配信番組:知るテック より)
この記事に関連するニュース
-
2024年上半期サイバーセキュリティレポートを公開 脆弱性を悪用したカスタムツールGooseEggや世界的シェアを持つWordPressを狙った攻撃事例を解説
PR TIMES / 2024年9月24日 14時15分
-
考えられるリスクと適切な対策とは? 楽天モバイル、セキュリティ対策を解説
ITライフハック / 2024年9月13日 23時50分
-
生成AIによって加速するソーシャルエンジニアリング攻撃、どう防ぐか
マイナビニュース / 2024年9月12日 12時23分
-
「写真1枚で10秒」ディープフェイク映像、記者の母親も騙された [韓国記者コラム]
KOREA WAVE / 2024年9月1日 9時0分
-
ゼットスケーラー、フィッシングに関する調査結果を発表。日本企業への攻撃は2,700万件以上でアジア太平洋地域3位に
PR TIMES / 2024年8月28日 14時15分
ランキング
-
1羽賀研二容疑者逮捕…タレント・暴力団幹部・司法書士を結んだ『接点』専門家が指摘する弘道会幹部の狙いは
東海テレビ / 2024年9月26日 21時3分
-
2「満足度No.1」10万円から 広告主に売り込み、消費者庁調査
共同通信 / 2024年9月26日 19時5分
-
3証拠捏造を断罪した無罪判決、捜査機関に衝撃広がる…静岡県警幹部「正直納得いかない」
読売新聞 / 2024年9月27日 0時56分
-
4両陛下と愛子さま、能登豪雨被害のお見舞いを石川県知事に伝える
毎日新聞 / 2024年9月26日 18時53分
-
5「皆さまの応援のおかげ」=袴田さん姉に満面の笑み―静岡
時事通信 / 2024年9月26日 19時16分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください