生成AIやLLMにより高度化するフィッシング、どう対抗するか 第1回 企業の生成AI活用におけるメリットとリスクとは

画像提供：マイナビニュース

ChatGPTに代表される、LLM（大規模言語モデル）ベースのAIツールが台頭する中、それらのツールがサイバーセキュリティに与える影響についてさまざまな議論が起こっている。では、具体的にどのような影響が考えられるのだろうか。LLMの概要と悪用の可能性、Vadeの親会社であるHornetsecurityが実施した調査結果を紹介する。
業務に必須となりつつあるLLM

AIを活用したサービスがここ数年で急激に普及している。AIは以前から多くの製品やサービスに搭載されていたが、スマートフォン向けの画像生成アプリを皮切りに、翻訳、音声のテキスト化、音声の生成、作曲など一般ユーザーが能動的に利用できるAIサービスが数多く登場している。そして2023年5月には、OpenAIがAIチャットボットとしてChatGPTの日本語版をリリースし、状況を一変させた。

ChatGPTなどのAIサービスは、大規模言語モデル（LLM：Large language Models）と呼ばれる。大量のデータとディープラーニング（深層学習）技術によって構築された言語モデルであり、自然な文章での対話が可能であることが特徴だ。翻訳も可能であるため言語も選ばない。このため、企業が問い合わせ窓口やカスタマーサポートにChatGPTを採用するケースが急増した。

ChatGPTはAIチャットボットとしてだけでなく、生成AIとしての活用も進んでいる。生成AIによって業務に必要な定型書類はほぼ作成できるし、マーケティング目的のブログやメールニュースの文章、広告のコピーも作成できる。翻訳も自在であるし、資料の挿絵やBGMさえ作成できてしまう。また、AIの学習内容は企業内に限定できるため、使えば使うほど自社を理解したAIに育っていく。

ChatGPTの成功を受けて、大手IT企業をはじめ多くのベンダーがLLMベースの生成AI（以下、生成AI）サービスの提供を開始している。こうしたサービスを導入する企業も増加しており、MM総研の調査によれば、日本企業では約7割が導入済み、準備・検討中も含めると90％に達する。生成AIは企業にとって必須のものとなりつつある。
浸透と共に増大する生成AIに対する懸念

現在は、Googleの「BERT（Bidirectional Encoder Representations from Transformers）」および「T5（Text-To-Text Transfer Transformer）」、Microsoftの「Turing-NLG」、Meta（Facebook）の「OPT（Open Pre-trained Transformer）」、Anthropicの「Claude」、AI21 Labsの「Jurassic-1」など多くの生成AIモデルが開発されている。