HPEがAI戦略を説明 - 「NVIDIA AI Computing by HPE」の強みとは

「HPE Private Cloud AI」のラインアップは4種類で構成されている。用途によってサイズが異なることが想定されており、チューニングされた状態で届けられる。

生成AIを利用する際に重要なことは「ガバナンス」

説明会では、ヒューレット・パッカード エンタープライズ データ&AI担当SVP エン・リン・ゴー博士が、企業がAIを活用する上で守るべきことについて説明した。

ゴー博士は、同社のCEOであるアントニオ・ネリ氏の等身大の生成AIアバターを作成しようとした際、生成AIが不適切な形で質問に答えるのではないかということが大きな懸念になったとして、ガバナンスモデルを作って守ることにしたと説明した。

同社のCEOとして話をさせるために、「独自の生成AIとLLMが必要だった」ゴー博士は述べた。「汎用的なLLMはインターネットに基づいて回答するので、基本的なモデルを使うと変な回答することになり、私はクビになってしまう」（ゴー博士）

そこで、ゴー博士はガバナンスを確保するために実施した施策を4つ紹介した。1つ目の施策は、LLMをコントロールすることだ。今回、同社のコントロールしたデータを1万投入し、質問があった時にそれに基づいて回答できるようにしたという。

2つ目はガードレールの設置だ。大規模なモデルに比べると10分の1程度の小さなモデルを利用することで、不適切な質問はブロックするようにしている。例えば、「株価はどうなるのか」といったLLMが正確に答えられない質問を受けた際、「申し訳ございません。回答できません」と回答する仕組みになっている。

3つ目は機械学習をマネジメントするソフトを導入して、LLMをトラッキングしているという。

4つ目は、人間にストップボタンを持たせたことだ。いざとなったら、人の手でリスクをヘッジするというわけだ。

また、この取り組みにおけるポイントとして、ゴー博士は処理時間を短縮できたことを紹介した。最初、CEOのアバターが質問を受けてから回答するから10秒程度かかっていたところ、チューニングしたり、GPUをH100にアップグレードしたりして、3秒までに短縮できたという。

ゴー博士は「生成AIを活用したCEOのアバターの取り組みにおいて、ガバナンスが重要であること、処理時間を3秒まで短縮できたことを覚えておいてほしい」と語っていた。
（今林敏子）