富士通、エンタープライズ向けの生成AIフレームワークを7月より提供開始

生成AI混合技術を用いて、多様な問い合わせに対して各問い合わせの対応完了時間を予測するAIと、最適なタスク割り振りを実施するAIを自動生成している。

生成AI監査技術

生成AI監査技術は、生成AIによる出力が企業規則や法令などに準拠しているかを確認するための技術だ。生成AIの内部動作状態の解析から回答の根拠を提示する生成AI説明性技術と、回答に対する根拠の整合性を検証し提示するハルシネーション（生成AIがもっともらしい誤情報を出力する現象）判定技術によって構成される。生成AIが出力を導いた根拠を示すことで、ハルシネーションを防ぐ。

ナレッジグラフによって複雑な規則を論理表現に変換し、必要な条項を適切に抽出する。その上で、画像のどこに注目したのかや、どの規則を参照したのかをAIが説明できるようにすることで、生成AIによる回答の信頼性を高める。

以下では、自転車に乗っている人の画像について「道路交通法に違反する状況があるかを診断してください」と指示を出した際の挙動を例に、生成AI監査技術を紹介する。

まず、GPT-4oに質問をすると、「道路交通法第71条第6号の規定により、自転車運転中に片手で傘をさすことは禁止されています。画像では、女性が片手で傘をさしています」と出力される。しかし、自転車運転中の傘の使用に関しては道路交通法では禁止されておらず、引用された条文は無関係のものだそうだ。

また、「自転車に乗る際のヘルメットの着用は法律で義務付けられていないが、推奨されています。画像の女性と男性はヘルメットを着用していません」とも出力されるが、画像中の男性はヘルメットを着用しているため、この指摘は誤っている。

一方、富士通の画像診断LLMは「第十七条の規定により、歩道の左側を通行しなければなりません。道路交通法で禁止されていませんが、傘をさしながらの自転車の運転は危険です」と出力する。

その根拠を質問すると、ハルシネーション判定LLMは画像の中でAIが注目した部分を赤で、そうでない部分を青で表示する。ここでは、傘をさしている女性にAIが注目していることが分かる。このことから、この診断結果が妥当だと考えられるのだという。

同時に、画像診断LLMは「第六十三条の十一の規定により、ヘルメットをかぶらずに車道を通行する自転車は、ヘルメットをかぶるように努めなければなりません」とも出力する。このとき、ハルシネーション判定LLMはその根拠としてAIが注目した領域について、画像中央部の歩行者のあたりを赤く表示する。自転車に乗っている人には注目していないことから、この指摘は妥当性が低いと判断できる。
（熊谷知泰）