生成AIやLLMにより高度化するフィッシング、どう対抗するか 第2回 LLMを悪用したフィッシングメールの実例と被害

画像提供：マイナビニュース

LLM（大規模言語モデル）ベースのAIツールを利用して作成されたフィッシングメールは非常に自然な文面であるため、見分けるのは容易ではない。フィッシングメールを信じてしまってリンクをクリックしたり、添付ファイルを開いたりしてしまうと、深刻な影響を受ける可能性がある。そこで今回は、フィッシングメール作成の実例と想定される被害について解説する。
生成AIによる情報収集やフィッシングメールの作成

LLMベースの生成AI（以下、生成AI）サービスは要約機能や文書作成機能、新たなアイデアを創出する機能などにより、手間がかかっていた業務を効率化できる。そのため、生成AIサービスはサイバー攻撃にも悪用されている。多くの生成AIにはマルウェアの生成を阻止するセーフガード機能が搭載されているが、サイバー犯罪者は独自のプラグインによってこの機能をバイパスしている可能性もある。

生成AIは情報収集にも活用できる。ヘルプデスクへのソーシャルエンジニアリングによる電話攻撃では、企業、なりすます個人、階層内の他者との関係を詳細に理解する必要がある。これは初期の標的型攻撃も同様であった。そのためサイバー犯罪者は事前の情報収集に時間をかけていた。より詳細な情報を得るために、サイバー犯罪者は企業が出すゴミを調べたり、清掃員として企業内に潜入したりするケースすらあった。

しかし、LLMベースの検索エンジンを悪用することで、短時間で詳細な情報を得られるようになった。その上でサイバー犯罪者が起こすアクションは現在、フィッシングが主流となっている。生成AIを悪用することで、標的とすべき企業内個人の特定や、その標的から企業システムのログイン情報を得るためのメールの文面の作成が可能になる。もちろん翻訳も可能だ。

サイバー犯罪者の最終目的は、企業が持つ個人情報や機密情報などの重要な情報である。それらを入手するためには、そうした情報にアクセスできる権限を持った人間になりすますことが手っ取り早い。一般社員になりすますこともできるが、その場合は乗っ取った上で横移動を行い、Active Directoryなどにアクセスして特権IDを取得するなど、手間がかかってしまう。

Hornetsecurityによる「2024年AIセキュリティレポート」によると、450億通以上のメールを分析した結果、36.4％が「迷惑メール」だったという。これらの迷惑メールの96.4％はスパムメール、3.6％は悪質なメールに分類された。悪質なメールの内訳は、「フィッシング」が43.3％で最も多く、「悪意のあるURL」（30.5％）がこれに続いた。
巧妙なフィッシングメールの特徴