生成AIが加速させる?「普通の人」でも容易にハイレベルな攻撃が可能に
マイナビニュース / 2024年8月16日 10時10分
●
自然な日本語のフィッシングメールが作成され、言葉の壁が崩れる
もう一つ生成AIが悪用される恐れのある領域が、フィッシングや詐欺文面の作成です。
グローバルで見るとフィッシングメールやBECが横行しています。しかしこれまで日本をはじめ、英語以外の言語を母国語とする国は「言語の壁」に守られてきた部分が多分にありました。ところが生成AIは、言語の壁を崩し、ひいてはサイバー攻撃において国境のない世界を作り出す恐れがあります。
例えばこれまで、日本のユーザーをターゲットしたフィッシングのおとり文書である「ルアー」には、攻撃者が正規のサイトやメールのやり取りをコピーしたり、英文でやり取りされていたものを翻訳したりした文章が用いられてきました。
最近はGoogle Translationなどの翻訳ツールが使われるケースも増えていましたが、それでもどこかに不自然なところが残り、決して流暢とは言えない日本語が使われるため、訓練を受けた受信者が違和感を覚え、通報されるケースもよくありました。
しかし、フィッシングルアーの作成に生成AIが用いられると、より自然な文体で、より信憑性の高い詐欺メールの文面が、より大量に、労力をかけずにさまざまなパターンで作り出されてしまいます。日本語を母語とする人物が作成したものと変わらない自然な文章がルアーとして使われ、引っかかってしまう人が増える恐れがあります。
現に、これまで私たちを守ってきた言語の壁が崩れつつある兆候が観測されています。2022年と2023年で過去1年間にBEC攻撃を受けた企業の割合を見ると、日本の上昇率が35%と最も高くなっていました。ちなみに、2番目に上昇したのは韓国(31%)、3番目はUAE(アラブ首長国連邦)(28%)で、日本だけでなく英語以外の言語を母語とする国々でも同様に、生成AIが言語の壁を崩してしまうリスクが高まっています。
相手をだまし、なりすますという観点では、文章だけでなく、映像によるディープフェイクが悪用されるリスクもあり、すでに攻撃も観測されています。攻撃者による生成AIの適用領域はますます広がっていると言えるでしょう。
AIによるサイバー脅威の広がりにはAIを駆使して対策を
このように生成AIは、サイバー攻撃のハードルを大きく下げることで攻撃の速度を加速させ、また攻撃範囲を拡大させる恐れがあります。この先、サンドボックスをはじめとする検知機能を回避するマルウェアにも応用される恐れも指摘されています。
この記事に関連するニュース
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第2回 LLMを悪用したフィッシングメールの実例と被害
マイナビニュース / 2024年8月6日 10時46分
-
『Microsoft365/Gmailを狙う、高度なフィッシング攻撃を無効化するには?』というテーマのウェビナーを開催
PR TIMES / 2024年8月5日 10時45分
-
Android狙うフィッシングキットとAI、攻撃者がセット販売
マイナビニュース / 2024年7月29日 12時32分
-
フィッシング攻撃のトレンドはQRコードと生成AI、手口を知って対応を
マイナビニュース / 2024年7月19日 13時51分
-
『ChatGPTなどの生成AIを悪用した未知のメール攻撃にどう対処するか?』というテーマのウェビナーを開催
PR TIMES / 2024年7月19日 11時15分
ランキング
-
1型落ちのiPhoneをお得に買う方法 Apple Store以外ではどこで買うのがオススメ?
ITmedia Mobile / 2024年8月16日 15時50分
-
2今売れている「電動自転車」おすすめ3選&ランキング クロスバイク風のスポーティーなタイプが登場! 6万円台で買える高コスパモデルなど【2024年8月版】
Fav-Log by ITmedia / 2024年8月16日 8時15分
-
3VTuber・湊あくあ主演ゲームが“無制限で実況・配信OK”に 卒業まで期間限定で
ITmedia NEWS / 2024年8月16日 19時28分
-
4柴犬のモサッとおしりを、思い切って「桃尻カット」してみたら…… まさかの“プリプリ美尻”が完成してしまう
ねとらぼ / 2024年8月17日 10時0分
-
5Androidの大きな脆弱性をセキュリティー会社が指摘 世界中のPixelデバイスに影響か
ASCII.jp / 2024年8月16日 18時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)