生成AIやLLMにより高度化するフィッシング、どう対抗するか 第1回 企業の生成AI活用におけるメリットとリスクとは

企業内の特定の個人を標的としたスピアフィッシングや、ソーシャルエンジニアリングにより企業のヘルプデスクに電話による攻撃を行う際、個人やその人間関係を把握するためにサイバー犯罪者はLinkedInなどのSNSや企業サイトのリサーチなどを行う必要があった。しかし、生成AIベースの検索エンジンの登場により、そういった情報が容易に把握できるようになっている。これは、企業が何らかの話題になったときに短時間で個人を標的とした攻撃が行われる可能性があることを示している。
データポイズニング

サイバー犯罪者が生成AIの学習用データにアクセスできる場合、そのデータの一部を改ざんし、それらを学習した機械学習モデルを攻撃する可能性がある。これはデータポイズニングと呼ばれる手法で、サイバー犯罪者の都合のよい回答を引き出させることが可能になる。これによりユーザーに間違った認識を植え付けたり、生成AIサービスを提供する企業の信頼を失墜させたりすることもできる。

このように、生成AIは業務を効率化し企業の生産性を向上させる反面、課題やリスクも多く存在する。特に現在の懸念はフィッシングへの悪用である。次回は、生成AIを悪用したフィッシングの実例について詳しく紹介する。

著者プロフィール

伊藤 利昭（イトウ トシアキ）　Vade Japan株式会社 カントリーマネージャー

2020年1月に就任。責任者として、日本国内におけるVadeのビジネスを推進する。これまで実績を重ねてきたサービスプロバイダー向けのメールフィルタリング事業の継続的な成長と新たに企業向けのメールセキュリティを展開するに当たり、日本国内のパートナーネットワークの構築に注力している。
（）