ネットワンシステムズ、自社LLMシステム「NELMO」を運用開始

～業務フローへ生成AI技術を適用し、LLMOpsによる継続した回答精度向上を実現～

　ネットワンシステムズ株式会社（本社：東京都千代田区、代表取締役 社長執行役員：竹下 隆史） は、業務の効率・品質向上、新たなビジネスモデル創出、お客様への価値提供の最大化を目指し、当社独自の生成AIを活用した、netone LLMシステム「NELMO」を開発し、運用を開始しました。

　「NELMO」開発により、工数が多くかかっていた業務が生成 AIで効率化され、特に、社内で年間数千件発生している技術的な質問・回答業務のうち、対象メーカーについては対応工数を約22%削減することができました。また、一部機能に RAG（※1）やプロンプトエンジニアリング（※2）を実装することによって、利用者が機能を利用すればするほど、生成AIの問い合わせに対する回答の精度が向上する仕組みになっています。

■netone LLMシステム「NELMO」開発の背景
　当社が長年培ってきたネットワーク領域の様々なナレッジを取り込んだ生成AIチャット環境を整備するなど、昨年度から、エンジニアリング業務効率化のためのトライアルを実施してきました。
　「NELMO」開発に着手するにあたり、トライアルを踏まえ自社の業務分析を実施し、期待効果や優先度を洗い出しました。その結果、日々の社内外での打ち合わせの際に発生する議事録作成や、社内で年間数千件の問い合わせが発生しているエンジニアの技術的な質問・回答業務（社内技術Q&A）を生成AIで効率化できると判断し、機能開発への取り組みを開始しました。

■開発の特徴
　生成AIの業務適用においては、自社のビジネスに適したかたちでの企業データ資産の活用が重要です。そのため、「NELMO」にRAGやプロンプトエンジニアリングを実装し、生成AIの精度を向上させました。
　Virtual Agent(社内技術Q&A支援)機能において、過去ナレッジが存在しない質問については、従来通り人が対応するフローを残しつつ、その回答を新たにRAGに取り込む実装としています。これにより、機能を利用すればするほど、回答精度が高まる仕組みとなっています。
　また、今回の開発にあたっては、生成AI開発に関してナレッジを多く持つ、データ&AIカンパニーDatabricks Inc.（本社：米国カリフォルニア州サンフランシスコ、CEO：アリ・ゴディシ、以下 Databricks社）の開発支援サービス「Delivery Solution Architect」、「Professional Services」を利用しました。業務への効果が高い順に実装計画をたて、設計、実装およびLLMOps（大規模言語モデル運用）の仕組みづくりをDatabricks社の「データ・インテリジェンス・プラットフォーム」上で行ったことにより、わずか3ヶ月で本番環境として社内リリースを実現しました。