生成AIが加速させる？「普通の人」でも容易にハイレベルな攻撃が可能に

もちろん生成AIには、「マルウェアを作成してください」といった悪質なプロンプトを防ぐガードレール機能が備わっています。しかし残念ながら、「私は研究者です」「これは空想上の話です」といった前提を生成AIに与えることによって制約を回避して回答を得てしまうという手法を中心に、ガードレールをかいくぐる手法も指摘されています。

加えて、本来は防御の穴を見つけてセキュリティを強化するために開発された「ディフェンダー生成AI」が攻撃者に悪用されるケースもあります。かつて、ペネトレーションテスト用に作られたツール「Cobalt Strike」が、攻撃者の好むツールとして用いられたのと同じことが、生成AIでも起こりつつあります。

例えば、Cobalt Strikeと同様、脆弱性の有無を確認するペネトレーションテストを目的に作られた生成AIが「PentestGPT」です。これはChatGPTによって強化された侵入テストツールですが、攻撃者によって、ターゲットとした企業の穴を自動的に探るために用いられる場合もあります。

また、LLM（大規模言語モデル）でさまざまなパスワードを生成して試し、パスワードの強度を調査するために作られた「PassGAN」では、1分以内に51％のパスワードを、1日以内ならば71％のパスワードを解読できます。これも攻撃者の視点に立つと、パスワードを総当たりで解読するブルートフォース攻撃に悪用可能です。

サイバー攻撃の世界では、巧みな会話を通して人をだまし、重要な情報を手に入れる「ソーシャルエンジニアリング」と呼ばれる手法も古くから用いられ、ビジネスメール詐欺（BEC）などに応用されてきました。「HackGPT」と呼ばれる生成AIは、被害者とやり取りをして情報を引き出す一連のコミュニケーションを自動化するものです。母国語やタイムゾーンや異なる攻撃者がソーシャルエンジニアリングを高速化、効率化するのに、こういったツールが用いられています。

さらに、最初から違法な使い方を想定した生成AIも流通し始めています。その一つである「BlackhatGPT」は不正アクセスの概念を理解しており、いくつかの質問を投げかけるだけで、実行中のプロセスに不正なコードを埋め込むWindows向けの攻撃コード生成はもちろん、メモリの操作、さらには権限昇格を行うPowerShellコードなどを作成してしまいます。かつては高度な技術力を持つ攻撃者にしかできなかった攻撃コード作成のハードルが下がり、ひいては、マルウェア開発がより迅速にできてしまうかもしれません。