脱ブラックボックス化! AI開発における異常自動検知システム「Citadel Lens」
Techable / 2022年3月4日 13時0分
株式会社Citadel AI(以下、Citadel AI社)は、企業のAI開発におけるPoC(Proof of Concept:概念実証)を加速するAI自動耐性テストツール「Citadel Lens(シタデル・レンズ)」のβ版を、3月1日(火)にリリースしました。
開発中のAIの弱点を瞬時に炙り出す「人間ドック」のような機能で、利用者が安心して運用ステージに移行できる環境を提供するといいます。
人手作業では難しい、バイアスや精度のばらつきを精査Citadel AI社は、米国Google Brain Teamの元AIインフラ構築責任者が開発をリードしている企業です。「24時間信頼できるAIをあなたに」をビジョンに掲げ、AIの品質保守の自動化ツールを提供しています。
今回、同社がリリースしたCitadel Lensは、開発~PoCステージのAIの自動耐性テストをおこない、人手作業では検出が難しいバイアスや精度のばらつき、アタック耐性などを精査するシステムです。
AIの弱点や異常を瞬時に炙り出し「点数化」。課題の原因を早期に解明し、PoCを加速するといいます。
背景には人的・時間的コストの課題今回のリリースの背景には、AIのデバッグにかかる人的・時間的コストの課題があったようです。
AIは学習データからロジックを自動学習し、膨大な数のパラメーターに落とし込みます。
しかし、パラメーターは学習するたびに変わることから、「バージョンアップ後のシステムの精度が劣化したが、理由がわからない」と悩むエンジニアが少なくないといいます。
一方、これまでの精度確認方法では、精度がわかるまで1週間〜1か月程度の時間がかかるケースが多く、AIの不具合の原因解明・改善には、専門のエンジニアでも多くの作業時間を要します。
こうした課題を受けて、Citadel AI社はCitadel Lensを開発。AIの精度確認でおこなっていたAI出力の目視確認とラベル付け作業が不要となるため、AIエンジニアの作業を効率化することができます。
「Citadel Radar」併用で、より信頼性のある仕組みへ同社はCitadel Lens以外に、「Citadel Radar(シタデル・レーダー)」というシステムを提供しています。昨年リリースされた同システムは、運用ステージのAIの入出力をもとに、リアルタイムでAIの異常を自動検知・防御・可視化します。
「もし~だったら〇〇だっただろう」という反実仮想分析によるシミュレーション機能を搭載。運用中のAIを守るツールとしても、マーケティングツールとしても利用できるといいます。
開発中のAIに対する「人間ドック」の機能をもつCitadel Lens、そして運用中のAIを常時モニタリングし異常から守る「ボディガード」の機能をもつCitadel Radar。
同社は両システムを併用することで「『信頼できる、説明可能なAI』の仕組みを構築することができます」と語り、今後も利用者が安心して運用ステージに移行できる環境を提供していく方針です。
PR TIMES(1)(2)
(文・Haruka Isobe)
外部リンク
この記事に関連するニュース
-
画像処理による異常監視システム「ANOMALY WATCHER」のスペシャルサイトを公開
PR TIMES / 2024年7月2日 14時15分
-
安全な生成AI活用のためのガバナンス態勢整備・運用の実現に向けて Citadel AI、SOMPOリスクマネジメントとの業務提携開始
PR TIMES / 2024年6月28日 14時40分
-
Google、オープンな生成AIモデル「Gemma 2」リリース 270億パラメータモデル追加
ITmedia NEWS / 2024年6月28日 9時33分
-
安全な生成AI活用のためのガバナンス態勢整備・運用の実現に向けて
PR TIMES / 2024年6月27日 14時45分
-
Ollo Factoryが住友電装株式会社に採用され、グローバル展開を開始
PR TIMES / 2024年6月20日 16時40分
ランキング
-
1妻の悲鳴を聞いて駆けつけたら…… 充電中のモバイルバッテリーが発火、真っ黒に焼け焦げたバッテリーに戦慄
ねとらぼ / 2024年7月16日 7時15分
-
2スマホの容量パンパン!じゃあ直付けSDカードリーダーで容量増えやしちゃえ
&GP / 2024年7月18日 6時30分
-
3楽天の「ポイント運用」を約1年間やってみた 運用益はどうだった?
Fav-Log by ITmedia / 2024年7月18日 6時50分
-
4「また貴重な資料が……」 Vectorのホームページサービスが年末に終了へ
ITmedia NEWS / 2024年7月18日 12時16分
-
5楽天モバイル、「AQUOS wish4」を7月29日から販売 - 31,900円、MNPで最大12,000ポイント還元
マイナビニュース / 2024年7月18日 15時43分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください