生成AIやLLMにより高度化するフィッシング、どう対抗するか 第2回 LLMを悪用したフィッシングメールの実例と被害
マイナビニュース / 2024年8月6日 10時46分
LLM(大規模言語モデル)ベースのAIツールを利用して作成されたフィッシングメールは非常に自然な文面であるため、見分けるのは容易ではない。フィッシングメールを信じてしまってリンクをクリックしたり、添付ファイルを開いたりしてしまうと、深刻な影響を受ける可能性がある。そこで今回は、フィッシングメール作成の実例と想定される被害について解説する。
生成AIによる情報収集やフィッシングメールの作成
LLMベースの生成AI(以下、生成AI)サービスは要約機能や文書作成機能、新たなアイデアを創出する機能などにより、手間がかかっていた業務を効率化できる。そのため、生成AIサービスはサイバー攻撃にも悪用されている。多くの生成AIにはマルウェアの生成を阻止するセーフガード機能が搭載されているが、サイバー犯罪者は独自のプラグインによってこの機能をバイパスしている可能性もある。
生成AIは情報収集にも活用できる。ヘルプデスクへのソーシャルエンジニアリングによる電話攻撃では、企業、なりすます個人、階層内の他者との関係を詳細に理解する必要がある。これは初期の標的型攻撃も同様であった。そのためサイバー犯罪者は事前の情報収集に時間をかけていた。より詳細な情報を得るために、サイバー犯罪者は企業が出すゴミを調べたり、清掃員として企業内に潜入したりするケースすらあった。
しかし、LLMベースの検索エンジンを悪用することで、短時間で詳細な情報を得られるようになった。その上でサイバー犯罪者が起こすアクションは現在、フィッシングが主流となっている。生成AIを悪用することで、標的とすべき企業内個人の特定や、その標的から企業システムのログイン情報を得るためのメールの文面の作成が可能になる。もちろん翻訳も可能だ。
サイバー犯罪者の最終目的は、企業が持つ個人情報や機密情報などの重要な情報である。それらを入手するためには、そうした情報にアクセスできる権限を持った人間になりすますことが手っ取り早い。一般社員になりすますこともできるが、その場合は乗っ取った上で横移動を行い、Active Directoryなどにアクセスして特権IDを取得するなど、手間がかかってしまう。
Hornetsecurityによる「2024年AIセキュリティレポート」によると、450億通以上のメールを分析した結果、36.4%が「迷惑メール」だったという。これらの迷惑メールの96.4%はスパムメール、3.6%は悪質なメールに分類された。悪質なメールの内訳は、「フィッシング」が43.3%で最も多く、「悪意のあるURL」(30.5%)がこれに続いた。
巧妙なフィッシングメールの特徴
この記事に関連するニュース
-
ヤマト運輸偽るフィッシング詐欺の報告が26倍に急増
マイナビニュース / 2024年7月23日 8時20分
-
フィッシング攻撃のトレンドはQRコードと生成AI、手口を知って対応を
マイナビニュース / 2024年7月19日 13時51分
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第1回 企業の生成AI活用におけるメリットとリスクとは
マイナビニュース / 2024年7月16日 9時52分
-
スマホを乗っ取る「SIMハイジャック」驚きの手口 偽造身分証で「なりすまし」被害増加の背景
東洋経済オンライン / 2024年7月16日 9時0分
-
生成AIで宿泊予約詐欺が900%増、Booking.comを安全に予約する12のポイント
マイナビニュース / 2024年7月9日 10時19分
ランキング
-
1ニコ動の再開直後に「ニコニコ鯖落ち」トレンド入り 「ピークタイムの4倍のアクセス」があったと明かす
ねとらぼ / 2024年8月6日 15時16分
-
2TikTok動画も一因か、欧米でスマート耳かき人気&市場拡大持続|医学界の警告届かず
Techable / 2024年8月6日 13時0分
-
3ヤマト、全国一律420円の「こねこ便」 A4・3cm以内 専用封筒で郵便受けに配送
ITmedia NEWS / 2024年8月6日 16時9分
-
4au/UQ mobile、請求書関連の手数料を10月から順次値上げ
マイナビニュース / 2024年8月5日 16時5分
-
5アニメ「キミ戦2」、“本編クオリティー維持”のため第5話以降の放送・配信延期 ファンからはさまざまな反応「万策尽きた」「気長に待ちます」
ねとらぼ / 2024年8月6日 15時16分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)