生成AIは今後の金融業界をいかに変容させるのか 自社連携を超えたビジネスモデルの大転換

これらの課題に対処するために、まずデータ保護の観点では、入出力データがLLMを動かしているデータセンターに送信されることを防ぐため、自社統制下のプライベートクラウドやオンプレミス環境でLLMを動作させることが理想的であろう。しかし、それが難しい場合は入出力データの保存や再学習を行わないことなどが規約で定められているサービスを使うことも考えられる。

回答の正確性や回答の不確実性については、ハルシネーション（LLMが誤った情報を生成してしまうこと）の発生を最小限に抑えるために、RAGなどにより外部知識を参照して回答を生成する仕組みの整備や、ユーザーである人間が必ず生成された文章を確認するなどの運用が考えられる。

また、LLMが不適切な表現を行ってしまう恐れについては、LLMサービスが提供しているコンテンツフィルターを活用することなども効果的である。ただし、一般的に不適切とされている表現はLLMサービスのコンテンツフィルターで対応可能であっても、自社特有、業界特有の不適切な表現については注意が必要である。そのような表現については、個別に定義し独自にフィルタリングを実装することが必要になる可能性がある。

生成AIを活用するためのリテラシーについては、社内教育や利用ガイドラインの整備などを通じて、従業員の理解を深めていく必要がある。生成AIの特性や限界を理解し、適切な利用方法を身につけることで、効果的な活用が可能となる。また、継続利用による習熟度の向上を促進するために、社内表彰や社内コミュニティによるサポートなどの環境整備も考えられる。

すでに実用段階に移行しているユースケース

これらの課題を踏まえて、一部のユースケースでは、既に実用段階への移行が始まりつつある。例えば、問い合せ応対支援などである。お客様からの問い合せに対し、従来はオペレーターが実施していた回答作成の一部をLLMが実施し、オペレーターはその文案を推敲し、最終文面を確認してお客様に回答するようなユースケースである。これにより回答品質均一化や生産性向上などが見込まれる。

実用段階への移行に際しては、LLM利用のチューニングも含めた丁寧なPoCを通じて、生成AIの導入効果を適切に評価することも重要である。どの程度の業務効率化や品質向上が達成されたかを定量的に把握し、費用対効果を検証する必要がある。併せて、生成AIの導入が従業員の業務にどのような影響を与えたかについても、丁寧に評価することが求められる。