生成AIのリスクに「生成AIで」どう対応する? NECの取り組みから探る
ITmedia エンタープライズ / 2024年9月24日 21時2分
NEC セキュアシステムプラットフォーム研究所 所長の藤田範人氏
生成AIがもたらすリスクに生成AIで対応する――。そんな技術の研究開発を進めているNECが、その取り組みについて2024年9月18日、研究開発拠点がある神奈川県川崎市中原区のNEC玉川事業場で記者説明会を開いた。今回はその内容を取り上げ、生成AIがもたらすリスクに生成AIでどこまで対応できるのかについて考察したい。
●生成AIがもたらす「新たなセキュリティリスク」
「当社が価値創造を支える事業ブランドとして推進している『BluStellar』(ブルーステラ)では、生成AIとセキュリティをキーテクノロジーとして挙げ、両分野の研究開発に注力している。今回の説明会では、特にこの両分野を掛け合わせた『生成AI×セキュリティ』における研究開発の取り組みを紹介したい」
NEC セキュアシステムプラットフォーム研究所 所長の藤田範人氏は、説明会でこう切り出した。
藤田氏によると、同社のセキュリティ分野における研究開発は「Truly Trusted」というコーポレートメッセージのもと、「あらゆるシステムが安全に守られ、正常に動作し続けることに貢献する技術を創出する」ことをミッションとして、「システムセキュリティ」「データセキュリティ」「AIセキュリティ」の3つのテーマについて取り組んでいる(図1)。
その上で、同氏は「従来のAIのリスクに加えて新たなセキュリティリスクが顕在化するようになってきた」と指摘し、2024年4月に政府が発表した「AI事業者ガイドライン」から生成AIで特に顕在化したリスクをピックアップしたものを表1に示した。
表1の内容について藤田氏は、「悪用と偽・誤情報のリスクは、生成AIが持つ非常に高いコンテンツの生成品質に起因している。また、ハルシネーションや機密情報の流出は、生成AIの出力が必ずしも制御できるものではないといった特性に基づくリスクだ」との見方を示した上で、「当社はこれらのリスク評価と対策技術によって生成AIリスクを低減し、解消するというアプローチで対応している」と強調した。
今回の記者説明会では、表1の赤枠で囲まれた3つのリスクについて、それぞれの対策技術が紹介された。サイバー攻撃への悪用には「LLM(大規模言語モデル)を用いたセキュリティリスク診断」、偽・誤情報には「偽・誤情報分析」、ハルシネーションには「ハルシネーション対策機能」だ。それぞれの要点は以下の通りだ。
この記事に関連するニュース
-
【調査/生成AI活用における課題が明らかに】「ハルシネーションに不安を感じる」が59.2%で最多、生成AI活用に求められる「セキュリティの強化」と「ハルシネーション対策」
PR TIMES / 2024年10月17日 13時45分
-
富士通と産学組織が9者で共創し、世界初の偽情報対策プラットフォームの構築を開始
PR TIMES / 2024年10月16日 17時15分
-
「検索力」世界一を決める、ファクトチェック世界大会を開催。生成AIフェイクや災害デマを見抜く力を若者たちが競う
PR TIMES / 2024年10月16日 11時45分
-
企業が生成AIを使う時に気をつけたい3つのこと 万全な管理のコツは、ユーザーとIT部門の連携
東洋経済オンライン / 2024年10月7日 9時0分
-
NEC、ハルシネーション対策を強化 「生成AI活用が難しい現場」で利用促進
ITmedia ビジネスオンライン / 2024年9月30日 21時40分
ランキング
-
1Xのブロック機能や規約の変更後、Blueskyに50万人の新規ユーザー
ITmedia NEWS / 2024年10月19日 10時31分
-
2新型iPad mini、性能上がり6000円値下げ 「お買い得」「以前の価格に戻った」などの声
iza(イザ!) / 2024年10月16日 13時8分
-
3めざましテレビが「まいたけダンス」紹介→元ネタのVTuberに触れずさまざまな意見 「何も紹介が無いのは違う」「フリー素材扱いしたかったのかな?」
ねとらぼ / 2024年10月16日 17時34分
-
4「素で叫んだ」 マクドナルド公式の“意味深”画像 → “背景に隠されたもの”にツッコミ殺到 「背後霊が見える」「サブリミナルは草」
ねとらぼ / 2024年10月19日 13時4分
-
5【無料ゲーム】アマゾン「Prime Gaming」2024年10月の特典はこれだ
ASCII.jp / 2024年10月15日 17時0分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください