生成AIが加速させる？「普通の人」でも容易にハイレベルな攻撃が可能に

軍事領域では、未熟な兵士でも一様に高度な攻撃を繰り出すことができる兵器を「イコライザー兵器」と呼びます。生成AIがサイバー攻撃者にとってのイコライザー兵器となり、高度な技術を持たない攻撃者でも非常に高度な攻撃を、より広範囲に繰り出せてしまう可能性が高まっています。

もう一つ、私たちは別の側面からも生成AIに注意を払わなければなりません。自社のシステムやサービスで独自のLLM、生成AIを開発する取り組みが始まっていますが、ここで注意が必要です。

安全なLLMアプリケーション開発・利用を実現するための指針を提供する「OWASP AI Top TEN LLM」でも指摘されているとおり、もしその生成AIが汚染されたデータで学習されている場合、使いものにならなくなる恐れがあります。生成AIの登場に伴って、私たちが守るべき領域が増えてきたことも念頭に置かなくてはなりません。

そして、生成AIがもたらしたこうしたリスクに対抗する鍵も、やはり生成AIとなるでしょう。私たち守る側もしっかり生成AIやML（機械学習）といった技術を活用し、脅威の検出や情報の分類、アラートのトリアージ、あるいは脅威やユーザーの振るまい分析といったさまざまな領域に適用していくことが重要です。生成AIを用いたサイバー脅威に対しては生成AIを用いたセキュリティソリューションを活用し、スピーディに対処することが求められていくでしょう。

増田 幸美 そうた ゆきみ 日本プルーフポイント株式会社 チーフ エバンジェリスト。 早稲田大学卒業。日本オラクルでシステム構築を経験後、ファイア・アイで脅威インテリジェンスに従事。サイバーリーズン・ジャパンではエバンジェリストとして活動、千葉県警サイバーセキュリティ対策テクニカルアドバイザーを務める。現職ではサイバーセキュリティの啓蒙活動に携わり、InteropやSecurityDays、警察主催などカンファレンスなどで講演多数。世界情勢から見た日本のサイバーセキュリティの現状を分かりやすく伝えること使命としている。警察大学校講師。Cybersecurity of Woman Japan 2023受賞。 この著者の記事一覧はこちら
（増田 幸美）