Azure AI Content Safetyで生成AIの不正確な出力を修正する機能、Microsoft
マイナビニュース / 2024年9月27日 9時31分
Microsoftは9月24日(現地時間)、「Enhance the reliability of your generative AI with new hallucination correction capability」において、Azure AI Content Safetyで提供されているグラウンデッドネス検出の新機能として、検出後の修正を支援する「correction」機能を発表した。
グラウンデッドネス検出は、生成AIによって出力されたコンテンツから不正確、根拠がない部分を検出する機能。新たに追加された「correction」では、検出された不正確な出力に対してリアルタイムで修正が可能になる。
○グラウンデッドネス検出の新機能「correction」の概要
Azure AI Content Safetyは、アプリケーションやサービス内の有害なコンテンツをAIを使用して検出し、安全性を保つコンテンツモデレーション プラットフォーム。Azure AI Content Safetyには、生成AIが出力したコンテンツに対し、生成の元となったデータソースと比較して、不正確な部分や根拠がない部分を検出するグラウンデッドネス検出が備わっている。ユーザーは検出されたコンテンツをブロックすることで、アプリケーションやサービスの安全性を保てる。
新たに発表された「correction」機能は、グラウンデッドネス検出で検出されたコンテンツに対してブロックよりも一歩進んだ対策を提供するもの。「correction」を有効にした場合、根拠のない内容が検出された際にシステムがリアルタイムで書き換えプロセスを開始する。これによって不正確な部分はデータソースとの整合性が確保されるように修正され、ユーザーはその結果を利用できる。
○「correction」の仕組み
「correction」が動作する仕組みは次のとおり。
根拠がない文章が検出されると、生成AIモデルに修正を求める新しいリクエストがトリガーされる
生成AIモデルは、根拠のない文章をデータソースに照らし合わせて評価する
データソースに関連する内容がまったく含まれていない場合は、対象の文章は完全にフィルタリングされる可能性がある
データソースに関連するコンテンツがある場合は、モデルは元の内容と一致するように文章を修正する
Microsoftでは、生成AIの出力に対して不正確な部分をフィルタリングすることは、必ずしも意味のある緩和策とは限らないと指摘している。単純なフィルタリングでは編集されたコンテンツが意味不明なものになり、ユーザー エクスペリエンスを低下させる可能性があるからだ。「correction」はそのような問題を解決する有効な手段となる。
(杉山貴章)
外部リンク
この記事に関連するニュース
-
企業が生成AIを使う時に気をつけたい3つのこと 万全な管理のコツは、ユーザーとIT部門の連携
東洋経済オンライン / 2024年10月7日 9時0分
-
なぜPCに「AI」が必要なのか? HPのキーマン2人に聞く
ITmedia PC USER / 2024年10月4日 11時5分
-
ChatGPT、コードや文章を書くための新機能「Canvas」、話題の”Artifacts”に競合
マイナビニュース / 2024年10月4日 10時3分
-
NEC、ハルシネーション対策を強化 「生成AI活用が難しい現場」で利用促進
ITmedia ビジネスオンライン / 2024年9月30日 21時40分
-
生成AIサービス「dailyAI」がSharePoint Onlineと連携し社内データを生成AIに活用できる機能を提供開始
PR TIMES / 2024年9月20日 15時45分
ランキング
-
1Xのブロック機能や規約の変更後、Blueskyに50万人の新規ユーザー
ITmedia NEWS / 2024年10月19日 10時31分
-
2めざましテレビが「まいたけダンス」紹介→元ネタのVTuberに触れずさまざまな意見 「何も紹介が無いのは違う」「フリー素材扱いしたかったのかな?」
ねとらぼ / 2024年10月16日 17時34分
-
3【無料ゲーム】アマゾン「Prime Gaming」2024年10月の特典はこれだ
ASCII.jp / 2024年10月15日 17時0分
-
4リアム・ペインの急死巡り、“生みの親”と恋人へ批判が集中 「あなたのせい」「真実を話せ」と炎上状態に
ねとらぼ / 2024年10月18日 14時35分
-
5「素で叫んだ」 マクドナルド公式の“意味深”画像 → “背景に隠されたもの”にツッコミ殺到 「背後霊が見える」「サブリミナルは草」
ねとらぼ / 2024年10月19日 13時4分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください