AIを悪用してフィッシング詐欺が“進化”する可能性がある

ASCII.jp / 2023年5月26日 9時0分

AIが作成した偽情報を見分けられるか

　近年、AI技術の発展は目覚ましい。チャットボットのみならず、文章を入力するとAIがイラストを生成するなどのサービスも多い。専門的な知識がなくとも、AIによって即座にコンテンツを作成できる時代が訪れつつある。

　一方、対話系AIの「ChatGPT」で知られるOpenAIのサム・アルトマンCEOは、現地時間5月16日、米連邦議会の公聴会でAIを規制するよう訴えた。AIがもたらす倫理的な問題などを指摘したほか、AIの技術が一部の仕事に取って代わることで、経済にも影響を与えるだろうと述べている（Sam Altman: CEO of OpenAI calls for US to regulate artificial intelligence - BBC News）。

　AI技術の進歩には、功罪の両面があるかもしれない。便利な技術であっても悪用される可能性があることは、あらゆるテクノロジーにいえる点だ。では、サイバー犯罪や、セキュリティ面で気をつけることはなんだろうか。

　AIの“悪用”が考えられる一例として、フィッシング詐欺が挙げられる。正規のサービスなどをよそおったメールで、ニセのサイトに誘導し、ログイン情報（IDとパスワードなど）やクレジットカード情報を盗み出すもの。ここ数年、被害の報告が目立っている。

　一昔前のフィッシング詐欺は、特に日本語に不審な点が多く、文面の時点で気付けるものが少なくなかった。しかし近年は、文章で見抜くのが困難なものがほとんどだ。

　ここにAIの技術が加わることで、フィッシング詐欺の文面がさらに“自然”になってくることも予想される。日本語によく通じている人はもちろん、日本語をよく知らない人にとっても、高性能なAIツールを活用することによって、単語や文法のミスをなくせるからだ。

　また、相手のPCなどが故障したと誤認させて、メーカーなどのテクニカルサポートを詐称する詐欺がある。相手と会話しながら、リモートデスクトップツールを使って、ネットワークコマンドなどを実行し、個人情報を窃取したり、PCの中にマルウェアを仕込んだりといった手口に移行するものだ。

　こういった詐欺では、標的のPC画面に、「あなたのPCがウイルスに感染している」などと偽の警告を表示し、サポートの連絡先に見せかけた番号に電話させたり、不正なサイトに誘導したりするものがある。

　こういった詐欺における偽の警告画面や、電話による音声の指示も、AIが悪用されることによって、より“自然”なものになるかもしれない。

　文章を作成するのが苦手な人の代筆や、書類などを作成する際の叩き台などにAIが活用されることは、決して悪いことではない。しかし、悪意のある人間にとっては、「不自然な点のない文章を、大量に作成できる」ツールとして機能するものともなってしまうのだ。

慎重に対応することを心がけよう

　もし、AIを悪用してフィッシング詐欺が“進化”した場合、文面から見ぬくことは難しい。フィッシング詐欺の被害に遭わないためには、どうしたらよいだろうか。

　具体的な対策としては、よく利用するサービスへのアクセスとログインには、メールやSMSのリンクからは安易にアクセスしない（アクセスしても、IDやパスワードなどは入力しない）ことだ。

　公式のアプリや、ブラウザのブックマークなどからのアクセスを心がけるようにすれば、フィッシング詐欺の被害に遭う可能性は減らせる。これは、フィッシング詐欺のSMSやメールの文面が自然であれ、不自然であれ、有用な手段だ。

　サービスのログインをうながされたり、テクニカルサポートと称する相手から連絡が来た場合、公式サイトのヘルプデスクなどから問い合わせて確認するのも一つの手だ。トラブルにあった場合、不審に思った場合などは、最寄りの消費生活センターなどに相談する手段もある。

　もちろん、信頼できるセキュリティソリューションを導入しておくことは基本。悪意を持った人間がオンラインで送信する可能性のある不正なリンクをクリックしないように保護したり、ウイルス、ランサムウェアなどの脅威からデバイスを保護したりできる。

　AIの技術の発展は、我々の生活を豊かにする面も大きいだろう。不必要に怖がるのではなく、適切な対策を取ることが大切だ。最新のサイバー犯罪についての情報を知るために、McAfee Blogの「マカフィーの2023年の脅威動向予測: 進化と悪用」から「AIが主流となり、偽情報の拡散が増加する」の項目を紹介しよう。（せきゅラボ）

※以下はMcAfee Blogからの転載となります。

マカフィーの2023年の脅威動向予測: 進化と悪用：McAfee Blog

2022 年の終わりを迎えるにあたり、マカフィーのThreat Labsチームでは、2023 年はどのような脅威動向になるのか検討を進めています。今年は詐欺行為が絶え間なく進化を遂げ、その勢いが衰える気配はありません。また、オペレーティングシステムとしてChromeを導入するユーザーが増加しています。携帯電話やパソコンを所有していれば、誰でも簡単にアクセスできるAIツールの導入は、大きな意義をもたらしています。仮想通貨の価値の変動や「Web3」の出現も同様です。こうしたすべての要素が布石となり、2023年はテクノロジーとのかかわり方が大きく前進を遂げる見込みがあるものの、悪意のある攻撃者がこのテクノロジーを悪用して私たちに影響を及ぼす可能性もあります。マカフィーのチームによる2023年の予測と、安全に保護するためのヒントをいくつかご紹介します。

AIが主流となり、偽情報の拡散が増加する著者: Steve Grobman、最高技術責任者

人類は、コンピューターを使用するようになって以来、人工知能に魅了されつつも恐怖を抱いてきました。ポップカルチャーにおける描写は、『2001年宇宙の旅』に登場する人工知能を備えたコンピューターHALから、『ターミネーターシリーズ』に登場する自己認識ニューラルネットワークのSkynetにまで及びます。AI技術の現状は、映画に描かれているものよりも複雑性が高く、自律性に欠けています。AIは急速に進化を遂げていますが、悪用されることで最も影響を受けるのは依然として私たちです。

過去数か月間で、複数のアプリケーションが一般に利用できるようになりました。つまり、AIが生成した画像、動画、音声は、一部のユーザーのみを対象とするものではなく、携帯電話やコンピューターを持っている人なら誰でも、Open AIのDall-Eや stability.aiのStable Diffusionなどのアプリケーションを使用すると、このテクノロジーを活用できるようになりました。Googleは、AIで生成した動画の作成をこれまでになく容易にできるようにしました。

この動向は、将来において何を意味しているのでしょうか？これは、次世代のコンテンツ作成が大衆にも利用可能になってきており、進化を遂げていくことを意味します。自宅にいる消費者も、職場にいる従業員も、AIで生成したコンテンツを数分で作成できるようになります。デスクトップパブリッシング、写真編集、写真のような画像を安価に出力できる家庭用プリンターが大きな進歩を遂げ、以前はプロのグラフィックアーティストを必要としたコンテンツを個人が作成できるようになったように、こうしたテクノロジーは最小限の専門性と労力で優れた出力を可能にします。

デスクトップパブリッシングや消費者向け印刷における進歩は、犯罪者に対してもメリットをもたらし、画像の偽造精度を高め、操作を現実的なものにしました。同様に、こうした次世代の新しいコンテンツツールも、悪意のあるさまざまな攻撃者によって悪用されます。サイバー犯罪者から虚偽の情報で世論に影響を与えようとする者に至るまで、こうしたツールは詐欺師や拡散目的に利用され、その活動に必要なノウハウをさらに次のレベルへと高め、現実的な結果や大幅な効率向上をもたらすことになります。

これは、米国での2024年の大統領選挙に向けた活動が本格化する2023年に特に増加する可能性があります。世界的に、政治環境は二極化しています。利用可能な次世代のジェネレーティブAIツールの出現と、激戦が予想される 2024年の選挙時期が重なると、最悪の事態に陥ります。政治的および金銭的利益を目的に偽情報が作り出され、拡散されます。

私たちは皆、使用するコンテンツやその作成元により一層注意する必要があります。画像、動画、ニュースコンテンツなどすでに増加傾向にあるコンテンツの事実確認は、今後もメディア消費の必要な価値ある部分となるでしょう。

※記事の全文はこちらから

※本記事はアスキーとマカフィーのコラボレーションサイト「せきゅラボ」への掲載用に過去のMcAfee Blogの人気エントリーを編集して紹介する記事です。