生成AIが加速させる?「普通の人」でも容易にハイレベルな攻撃が可能に
マイナビニュース / 2024年8月16日 10時10分
軍事領域では、未熟な兵士でも一様に高度な攻撃を繰り出すことができる兵器を「イコライザー兵器」と呼びます。生成AIがサイバー攻撃者にとってのイコライザー兵器となり、高度な技術を持たない攻撃者でも非常に高度な攻撃を、より広範囲に繰り出せてしまう可能性が高まっています。
もう一つ、私たちは別の側面からも生成AIに注意を払わなければなりません。自社のシステムやサービスで独自のLLM、生成AIを開発する取り組みが始まっていますが、ここで注意が必要です。
安全なLLMアプリケーション開発・利用を実現するための指針を提供する「OWASP AI Top TEN LLM」でも指摘されているとおり、もしその生成AIが汚染されたデータで学習されている場合、使いものにならなくなる恐れがあります。生成AIの登場に伴って、私たちが守るべき領域が増えてきたことも念頭に置かなくてはなりません。
そして、生成AIがもたらしたこうしたリスクに対抗する鍵も、やはり生成AIとなるでしょう。私たち守る側もしっかり生成AIやML(機械学習)といった技術を活用し、脅威の検出や情報の分類、アラートのトリアージ、あるいは脅威やユーザーの振るまい分析といったさまざまな領域に適用していくことが重要です。生成AIを用いたサイバー脅威に対しては生成AIを用いたセキュリティソリューションを活用し、スピーディに対処することが求められていくでしょう。
増田 幸美 そうた ゆきみ 日本プルーフポイント株式会社 チーフ エバンジェリスト。 早稲田大学卒業。日本オラクルでシステム構築を経験後、ファイア・アイで脅威インテリジェンスに従事。サイバーリーズン・ジャパンではエバンジェリストとして活動、千葉県警サイバーセキュリティ対策テクニカルアドバイザーを務める。現職ではサイバーセキュリティの啓蒙活動に携わり、InteropやSecurityDays、警察主催などカンファレンスなどで講演多数。世界情勢から見た日本のサイバーセキュリティの現状を分かりやすく伝えること使命としている。警察大学校講師。Cybersecurity of Woman Japan 2023受賞。 この著者の記事一覧はこちら
(増田 幸美)
外部リンク
この記事に関連するニュース
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第2回 LLMを悪用したフィッシングメールの実例と被害
マイナビニュース / 2024年8月6日 10時46分
-
『Microsoft365/Gmailを狙う、高度なフィッシング攻撃を無効化するには?』というテーマのウェビナーを開催
PR TIMES / 2024年8月5日 10時45分
-
Android狙うフィッシングキットとAI、攻撃者がセット販売
マイナビニュース / 2024年7月29日 12時32分
-
フィッシング攻撃のトレンドはQRコードと生成AI、手口を知って対応を
マイナビニュース / 2024年7月19日 13時51分
-
『ChatGPTなどの生成AIを悪用した未知のメール攻撃にどう対処するか?』というテーマのウェビナーを開催
PR TIMES / 2024年7月19日 11時15分
ランキング
-
1型落ちのiPhoneをお得に買う方法 Apple Store以外ではどこで買うのがオススメ?
ITmedia Mobile / 2024年8月16日 15時50分
-
2今売れている「電動自転車」おすすめ3選&ランキング クロスバイク風のスポーティーなタイプが登場! 6万円台で買える高コスパモデルなど【2024年8月版】
Fav-Log by ITmedia / 2024年8月16日 8時15分
-
3VTuber・湊あくあ主演ゲームが“無制限で実況・配信OK”に 卒業まで期間限定で
ITmedia NEWS / 2024年8月16日 19時28分
-
4柴犬のモサッとおしりを、思い切って「桃尻カット」してみたら…… まさかの“プリプリ美尻”が完成してしまう
ねとらぼ / 2024年8月17日 10時0分
-
5Androidの大きな脆弱性をセキュリティー会社が指摘 世界中のPixelデバイスに影響か
ASCII.jp / 2024年8月16日 18時0分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)