生成AIのリスクに「生成AIで」どう対応する？ NECの取り組みから探る

　NECのテキスト分析技術およびLLMに関するノウハウを元に開発されたハルシネーション対策機能は、LLMが文章生成の元にした文章と生成した文章を比較して、食い違いがあった場合は矛盾箇所を提示する。単純な単語の比較だけでなく、文章の意味を比較して判断することが可能で、情報の抜け漏れや重複、元の文章と意味が変わった箇所などを提示する。同機能をLLMによる文章の要約に使うことで、要約前後の文章を比較してハルシネーションの有無の判定が容易になる。NECは、人的な確認作業の負担が軽減され、要約精度のさらなる向上が期待できるとしている。

　また、RAG（検索拡張生成）に代表される情報検索用途においても、LLMに質問して得られた文章に対して、その根拠となる元の文章を提示できる。LLMが生成した文章の正確性を効率的に確認するのも可能だとしている。

　これらの説明を聞いていた筆者に一つの疑問が浮かんだ。生成AIによる判断や考え方が偏っているかどうかを生成AIが判定することはできるのか。生成AIが、人間の判断や意思決定に大きな影響を与えるようになるであろう将来に備えるために質問した。セキュリティリスクではないかもしれないが、表1における「バイアスの再生成」と通底しているところもある重大な懸念事項だ。筆者のこの疑問に、藤田氏は次のように答えた。

　「生成AIの判断を生成AIでチェックするのは、なかなか難しいところがある。なぜならば、何をもってその判断が正しいのか、そう簡単に判定できないからだ。そうしたリスクについては、研究開発だけでなく法務や知的財産権などの部門とも連携してどのような対策を講じられるか、検討する必要があるだろう」

　正直、難しいことを尋ねていると思ったが、この分野の専門家である藤田氏がどう答えるか、聞いてみたかった。

　生成AIがもたらすリスクに生成AIで対応することは、ますます重要になるだろう。対応できない領域が広がれば、すなわちAIガバナンスが難しくなる。この話は企業、さらには社会のDX（デジタルトランスフォーメーション）を健全な方向に導く非常に重要なポイントになるのではないか。

○著者紹介：ジャーナリスト 松岡 功

フリージャーナリストとして「ビジネス」「マネジメント」「IT／デジタル」の3分野をテーマに、複数のメディアで多様な見方を提供する記事を執筆している。電波新聞社、日刊工業新聞社などで記者およびITビジネス系月刊誌編集長を歴任後、フリーに。主な著書に『サン・マイクロシステムズの戦略』（日刊工業新聞社、共著）、『新企業集団・NECグループ』（日本実業出版社）、『NTTドコモ リアルタイム・マネジメントへの挑戦』（日刊工業新聞社、共著）など。1957年8月生まれ、大阪府出身。