なぜPCに「AI」が必要なのか？ HPのキーマン2人に聞く

――　これはCopilot+ PCのような強力なNPUを備えるPCが登場したことで可能になったのか？

プラット氏　「鶏が先か卵が先か」という話もあるが、私たちは常に（そこにある）ハードウェア向けにソリューションを設計してきた。今回のシステムも膨大な計算量をこなす必要があるが、ほんの数年前は、エンドポイントのPCでこれほど大量の演算を行えるとは想像もつかなかった。NPUがそれを実現可能にしたかと言われればその通りだ。

　またLLMの分野の発展も大きい。わずか1年前には4000億パラメータのモデルが必要だったものが、今日では100億パラメータのモデルで同等のパフォーマンスを得ることができる。クラウド上にあるような1兆パラメータのモデルの知識を全て備えているわけではないものの、言語を非常によく理解し、事象を見つける能力を保持している。必要であればWebサイトから情報を取得したり、APIで他のソースから情報ソースを取得すること、またクラウド上のLLMへの問い合わせも可能だが、ほとんどのケースではローカル環境だけで回答が可能だと考えている。

●脅威の検出に「パターンファイル」は不要になる？

――　従来のセキュリティソフトウェアでは、ウイルスやマルウェアの検出に「パターンファイル」を使っているため、最新のパターンを適宜取得してアップデートする手法を採用していたと思う。今後はPCのエンドポイント上で言語モデルが動作し、自ら学習（トレーニング）するようになるのか？

プラット氏　違う。トレーニングは通常、クラウド上で行う。もちろん、トレーニングにNPUを活用して、新しい事象を学習して言語モデルをカスタマイズする微調整も可能だ。

　今日では基礎モデルのトレーニングに必要な計算量は膨大で、通常は何万ものGPUが数週間に渡って稼働し、トレーニングに際して大量のメモリを消費する。実行には数TBのメモリが必要であり、エンドポイント上での学習は現実的ではない。NPUは、あくまでも推論のために活用される。クラウド上でトレーニングし、実際の推論の実行と微調整をローカルで行うという流れだ。

　こうした言語モデルでは、都度最初からトレーニングをし直すのではなく、新しいデータを追加することで逐次改良を続け、エンドポイント（PC）ではその差分をダウンロードする形になる。同期により、最新の言語モデルの力で、脅威に対抗できると考える。