NEC、生成AIがもたらす新たなセキュリティリスクに対する3つの技術を紹介

画像提供：マイナビニュース

NECは9月18日、LLM(Large Language Models、大規模言語モデル)の信頼性を向上するハルシネーション対策に関連する機能を10月末より順次提供開始すると発表した。これに先立ち、同日に都内で「BluStellarを支える生成AI×セキュリティ技術説明会」を開催し、同社のDX(デジタルトランスフォーメーション)事業における価値創造モデル「BluStellar」のキーテクノロジーの1つとして定義しているセキュリティ技術について説明した。

NECでは、生成AIのサイバーセキュリティへの応用と生成AI出現に伴う新たなリスクへの対策という2つの観点からセキュリティ技術の研究開発に取り組んでおり、今回の説明会では新技術を含めたセキュリティ関連技術についてデモを交えて紹介された。
生成AIがもたらす新たなセキュリティリスク

最初に登壇したNEC セキュアシステムプラットフォーム研究所 所長の藤田範人氏は、生成AIがもたらす新たなセキュリティリスクとして「生成AIを用いた詐欺やサイバー攻撃」「ディープフェイクの悪用や偽・誤情報による社会への影響」「ハルシネーション(生成AIが事実と異なることをもっともらしく回答してしまう)」といった内容が顕在化したことを説明した。

今回の説明会で紹介された「LLMを用いたセキュリティリスク診断」「偽・誤情報分析」、10月末に提供開始予定の「ハルシネーション対策機能」という3つの技術は、上記の対策技術として開発されたものだ。いずれの技術も生成AIを活用している。

NECでは、社内DXをリファレンス化し、顧客向けオファリングへ反映する「クライアントゼロ」の取り組みを進めており、今回発表されたセキュリティ技術についても実践中だという。
LLMを用いたセキュリティリスク診断

LLMを用いたセキュリティリスク診断は、LLMと各種セキュリティツール、NECのサイバー攻撃リスク自動診断技術との連携によって非専門家でもセキュリティ診断が実施可能になるというサービス。

同サービスは、企業存続を脅かすサイバー攻撃が増加し、適切なセキュリティ対策がより重要になっていることや、セキュリティリスク診断の手順書はあるものの、非専門家が実施するには難しいという課題があることを背景に開発された。

NEC セキュアシステムプラットフォーム研究所 植田啓文氏は「サイバー攻撃の増加に伴い、セキュリティリスク診断を行い、事前にサイバー攻撃に備えることが重要視されている」と説明した。