生成AIが加速させる?「普通の人」でも容易にハイレベルな攻撃が可能に
マイナビニュース / 2024年8月16日 10時10分
もちろん生成AIには、「マルウェアを作成してください」といった悪質なプロンプトを防ぐガードレール機能が備わっています。しかし残念ながら、「私は研究者です」「これは空想上の話です」といった前提を生成AIに与えることによって制約を回避して回答を得てしまうという手法を中心に、ガードレールをかいくぐる手法も指摘されています。
加えて、本来は防御の穴を見つけてセキュリティを強化するために開発された「ディフェンダー生成AI」が攻撃者に悪用されるケースもあります。かつて、ペネトレーションテスト用に作られたツール「Cobalt Strike」が、攻撃者の好むツールとして用いられたのと同じことが、生成AIでも起こりつつあります。
例えば、Cobalt Strikeと同様、脆弱性の有無を確認するペネトレーションテストを目的に作られた生成AIが「PentestGPT」です。これはChatGPTによって強化された侵入テストツールですが、攻撃者によって、ターゲットとした企業の穴を自動的に探るために用いられる場合もあります。
また、LLM(大規模言語モデル)でさまざまなパスワードを生成して試し、パスワードの強度を調査するために作られた「PassGAN」では、1分以内に51%のパスワードを、1日以内ならば71%のパスワードを解読できます。これも攻撃者の視点に立つと、パスワードを総当たりで解読するブルートフォース攻撃に悪用可能です。
サイバー攻撃の世界では、巧みな会話を通して人をだまし、重要な情報を手に入れる「ソーシャルエンジニアリング」と呼ばれる手法も古くから用いられ、ビジネスメール詐欺(BEC)などに応用されてきました。「HackGPT」と呼ばれる生成AIは、被害者とやり取りをして情報を引き出す一連のコミュニケーションを自動化するものです。母国語やタイムゾーンや異なる攻撃者がソーシャルエンジニアリングを高速化、効率化するのに、こういったツールが用いられています。
さらに、最初から違法な使い方を想定した生成AIも流通し始めています。その一つである「BlackhatGPT」は不正アクセスの概念を理解しており、いくつかの質問を投げかけるだけで、実行中のプロセスに不正なコードを埋め込むWindows向けの攻撃コード生成はもちろん、メモリの操作、さらには権限昇格を行うPowerShellコードなどを作成してしまいます。かつては高度な技術力を持つ攻撃者にしかできなかった攻撃コード作成のハードルが下がり、ひいては、マルウェア開発がより迅速にできてしまうかもしれません。
この記事に関連するニュース
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第2回 LLMを悪用したフィッシングメールの実例と被害
マイナビニュース / 2024年8月6日 10時46分
-
『Microsoft365/Gmailを狙う、高度なフィッシング攻撃を無効化するには?』というテーマのウェビナーを開催
PR TIMES / 2024年8月5日 10時45分
-
Android狙うフィッシングキットとAI、攻撃者がセット販売
マイナビニュース / 2024年7月29日 12時32分
-
フィッシング攻撃のトレンドはQRコードと生成AI、手口を知って対応を
マイナビニュース / 2024年7月19日 13時51分
-
『ChatGPTなどの生成AIを悪用した未知のメール攻撃にどう対処するか?』というテーマのウェビナーを開催
PR TIMES / 2024年7月19日 11時15分
ランキング
-
1型落ちのiPhoneをお得に買う方法 Apple Store以外ではどこで買うのがオススメ?
ITmedia Mobile / 2024年8月16日 15時50分
-
2今売れている「電動自転車」おすすめ3選&ランキング クロスバイク風のスポーティーなタイプが登場! 6万円台で買える高コスパモデルなど【2024年8月版】
Fav-Log by ITmedia / 2024年8月16日 8時15分
-
3VTuber・湊あくあ主演ゲームが“無制限で実況・配信OK”に 卒業まで期間限定で
ITmedia NEWS / 2024年8月16日 19時28分
-
4柴犬のモサッとおしりを、思い切って「桃尻カット」してみたら…… まさかの“プリプリ美尻”が完成してしまう
ねとらぼ / 2024年8月17日 10時0分
-
5Androidの大きな脆弱性をセキュリティー会社が指摘 世界中のPixelデバイスに影響か
ASCII.jp / 2024年8月16日 18時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)