近年、ChatGPTをはじめとする“生成AI”がさまざまなアプリに導入されている。しかし、生成AIアプリの開発・運用の際は「大規模言語モデル（LLM）の生成結果は常に変わるため、リリース後に満足のいく結果が得られない」「GPT-4はレスポンスが遅く、即時性が求められるアプリでは障壁になりえる」などの課題がある。
そこでシンガポールのスタートアップ企業Teammate Pte. Ltd.は11月29日より、生成AIアプリ開発・運用ツール「Teammate Lang」のパブリックレビューを開始した。同ツールは、生成AIアプリの開発からその後の運用・管理まで、開発担当者が直面する課題を解決するというもの。
正式リリースまでのパブリックプレビュー期間中は、月額9ドルのベーシックプランのすべての機能を無料かつ無制限に利用できる。
ノーコード・サーバレスで生成AIアプリを構築Teammate Langは、生成AIアプリ開発段階のスピードと生産性を向上させるだけでなく、アプリの質・セキュリティの向上やリリース後の分析・改善の効率化までを行うオールインワンツール。
同ツールでは、ノーコード・サーバーレスでアプリを構築するほか、複数のLLMモデルを同時にテストし最適なモデルを選択することが可能だ。ChatGPTのほかPaLM、Llama、Cohereなど20種類以上のLLMモデルを同時に実行し、簡単に結果を比較できる。
異なるLLMモデル、ベクトルデータベース、APIとの統合と切り替えは簡単。「Llama2」のようなモデルを実行したり、初期設定なしでベクトル検索エンジンを使用したりすることもできる。
ドラッグ＆ドロップでセキュリティ対策Teammate Langは豊富なAIサービスと拡張機能を搭載しており、画像認識、音声認識、トピック識別、翻訳などと組み合わせられる。
予測が難しい生成モデルへのテストパターンを内蔵AIが自動生成することで、本番環境に耐えられる事前テストを実行可能。問題を特定してリリース前に改善できる。
ドラッグ＆ドロップで配置可能なセキュリティ・ノードにより、モデレーションやハルシネーションなどのセキュリティリスクへの対策をより簡単に行える。
円滑なテストとアップデートを実現Teammate Langでは、生成AIアプリの運用に特化したダッシュボード・分析プラットフォームを提供。プロンプトのバージョン管理機能により円滑なテストとアップデートを実現する。A/Bテスト、段階的リリース（トラフィック分割機能）も実行可能だ。
そのほか、類似キャッシュによる回答の高速化、フィードバックAPIの提供による品質評価の収集といったサポートも行うという。
Teammate Pte. Ltd.は今後、Teammate Langのパブリックプレビューによるユーザーフィードバックを受けて改善し、追加機能開発後の12月頃に正式リリースする予定だ。
参考元：https://prtimes.jp/main/html/rd/p/000000001.000132536.html
Teammate Lang 公式HP：https://lang.teammate.as/ja/
（文・Haruka Isobe）