生成AIのリスクに「生成AIで」どう対応する? NECの取り組みから探る
ITmedia エンタープライズ / 2024年9月24日 21時2分
LLMを用いたセキュリティリスク診断
LLMを用いたセキュリティリスク診断は、NECがこれまで培ってきたセキュリティリスク診断の知見や独自のサイバー攻撃リスク診断技術をLLMと組み合わせることで、対話形式によるセキュリティリスク診断のシステムを開発したものだ。利用者はLLMに対して簡単な指示文を入力するだけで専門知識がなくても脆弱性調査や攻撃診断、また対策の立案まで対応できる(図2)。
藤田氏によると、「生成AIおよびLLMと当社のリスク診断技術との連携により、システムに対する攻撃リスクの診断結果を、対策を含めてレポーティングする」というのが特徴だ。
●NECの「偽・誤情報分析」「ハルシネーション対策」とは
偽・誤情報分析
総務省の「インターネット上の偽・誤情報対策技術の開発・実証事業」の採択のもと、AIを活用してインターネット上の情報の真偽を多面的に分析し、ファクトチェックを支援する偽・誤情報分析技術の開発を開始した。実証事業の期間は2025年3月までだ(図3)。
新たに開発する技術は、複数の種類のデータ(テキストや画像、動画、音声)で構成されるコンテンツが、偽・誤情報かどうかをAIで分析し、その内容の真偽を分析する。具体的なプロセスは次の通りだ。
1. 画像などが生成・加工されていないかどうかを検知する
2. 複数の種類のデータをAIで認識してテキスト化する
3. 2で認識したテキストの内容が正しいか、出典がある情報かどうか、データ間の矛盾(テキストと動画の内容が食い違っているなど)がないか
上記を偽情報分析に特化したLLMで評価することで真偽を総合的に判定する。
また、ファクトチェック機関の専門家が作成する報告書や記事に近い形式でレポートを作成し、信頼性の低い根拠の削除や新たな根拠として情報を加えるなど分析者の指示に応じた調整を可能とすることで、ファクトチェック業務の容易化・効率化を目指す構えだ。
今後、開発した技術は日本ファクトチェックセンターなどのファクトチェック機関や放送局をはじめとするマスメディアにおいて実用性を検証し精度を向上させ、実用化を目指す構えだ。さらに、防災をはじめさまざまな業界での応用も検討していく考えだ。
ハルシネーション対策機能
生成AIおよびLLMの出力に含まれるハルシネーションを検知し、確認作業を効率化する技術で、2024年10月末から順次提供を開始する予定だ(図4)。
この記事に関連するニュース
-
【調査/生成AI活用における課題が明らかに】「ハルシネーションに不安を感じる」が59.2%で最多、生成AI活用に求められる「セキュリティの強化」と「ハルシネーション対策」
PR TIMES / 2024年10月17日 13時45分
-
富士通と産学組織が9者で共創し、世界初の偽情報対策プラットフォームの構築を開始
PR TIMES / 2024年10月16日 17時15分
-
「検索力」世界一を決める、ファクトチェック世界大会を開催。生成AIフェイクや災害デマを見抜く力を若者たちが競う
PR TIMES / 2024年10月16日 11時45分
-
企業が生成AIを使う時に気をつけたい3つのこと 万全な管理のコツは、ユーザーとIT部門の連携
東洋経済オンライン / 2024年10月7日 9時0分
-
NEC、ハルシネーション対策を強化 「生成AI活用が難しい現場」で利用促進
ITmedia ビジネスオンライン / 2024年9月30日 21時40分
ランキング
-
1Xのブロック機能や規約の変更後、Blueskyに50万人の新規ユーザー
ITmedia NEWS / 2024年10月19日 10時31分
-
2めざましテレビが「まいたけダンス」紹介→元ネタのVTuberに触れずさまざまな意見 「何も紹介が無いのは違う」「フリー素材扱いしたかったのかな?」
ねとらぼ / 2024年10月16日 17時34分
-
3【無料ゲーム】アマゾン「Prime Gaming」2024年10月の特典はこれだ
ASCII.jp / 2024年10月15日 17時0分
-
4リアム・ペインの急死巡り、“生みの親”と恋人へ批判が集中 「あなたのせい」「真実を話せ」と炎上状態に
ねとらぼ / 2024年10月18日 14時35分
-
5「素で叫んだ」 マクドナルド公式の“意味深”画像 → “背景に隠されたもの”にツッコミ殺到 「背後霊が見える」「サブリミナルは草」
ねとらぼ / 2024年10月19日 13時4分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください