企業が生成AIを使う時に気をつけたい3つのこと 万全な管理のコツは､ユーザーとIT部門の連携

【IT部門の対策】管理側であるIT部門は、承認したAIアプリケーションをリスト化し、効率的に運用したい。Netskope Threat Labsの調査によると、生成AIアプリケーションを安全に運用するために、企業によるセキュリティ制御のシステム導入が増加している。既に調査対象組織の4分の3 以上が、許可もしくはブロックする際のポリシーの策定、DLP、ユーザーを指導するコーチングなどの仕組みを導入している。データの保護を常に意識しながら、生成AIアプリケーションを運用することが重要である。

ポイント③AIの出力結果を適切に取り扱う

生成AIを活用するに当たり、AIが出力した文章や提案をそのまま採用することがないように留意することも重要だ。生成AIは、あくまでも他のソースから学習した情報をもとに、コンテンツを生成する仕組みであり、独自にゼロからつくっているわけではない。そのため、提供された情報が正確でない場合もあり、そのまま利用すると他者の著作権を侵害する可能性もある。

また、現在の生成AIには、誤った情報をあたかも真実であるかのように提示する「ハルシネーション」と呼ばれる現象がついて回る。ビジネスの現場で顧客に「本当らしいウソ」をついてしまったのでは、大切な信頼関係が壊れてしまう。

【ユーザー側の対策】ユーザー側の対策AIに文章などのコンテンツを作成する前に、必ず人が確認するプロセスを導入するのが1つの方法である。特に専門知識が関わるような内容を扱う場合は、専門家による監査の実施が、意図しない誤情報の発信を防ぐことになる。また、プロンプトに入力する内容があいまいだと、ハルシネーションが起きる確率が高まるため、指示の明確化に取り組む必要がある。

【IT部門の対策】IT部門は、生成されるコンテンツの範囲や形式に制約を設けることなどで、ハルシネーションを減らす努力が必要だ。特定の業務や用途に合わせてトレーニングされたAIを利用することで、より正確な出力結果が期待できる。

以上、生成AIを活用するにあたり、気をつけておきたい3つのポイントを挙げて説明した。鍵を握るのは、生成AIの利用環境を提供するIT部門の取り組みだ。まずは、IT部門が生成AI利用に関する社内ポリシーを策定し、周知し、実際に生成AIの利用が始まったらコーチング機能を利用して、ユーザーにリアルタイムの注意喚起や指導を実施してほしい。また、生成AIの活用状況を見ながら、定期的にセキュリティ教育を実施することも大切だ。

生成AIは、適切に管理しながら利用できれば強力な業務効率化ツールになるが、まだまだ安定していないのが実情だ。その意味で、依然として両刃の剣だと言える。ユーザーの意識を向上させることに加え、IT部門がツールを正しく利用しながら、適切なサポートを提供する必要がある。ユーザーとIT部門の両輪が効果的に連携することで、初めて企業の生成AI導入が成功するだろう。

小林 宏光：Netskope Japan ソリューションエンジニアマネージャー