東大発AIベンチャーの株式会社TDAI Labは、ChatGPTなどの生成AIや人間が書いた文章の真偽について瞬時に判定するAIツール「LLMファクトチェックツール」の提供を開始しました。
同ツールにより、文章のファクトチェックにかける手間や時間を大幅に削減できるでしょう。
また、生成AIによる文章の信頼性を向上させることで、医療や報道など応用が難しかった分野への生成AIの活用促進が期待されます。
生成AIの「誤った情報が混入する」問題ChatGPTなどで生成する文章は完璧ではなく、誤った情報が混入する問題が常に指摘されてきました。
これにより、多くの企業がエンドユーザー向けの文章生成を完全自動化しようとする一方で、人間による目視検証が必要となる状況が生まれ、生成AIを活用できる企業は限定されていたようです。
また、従来のChatGPTなどは外部サーバーへのリクエストが必要で、機密情報を扱う際にはセキュリティの懸念がありました。
文章内の“ファクトチェックを行うべき箇所”を判定このたび提供開始となった「LLMファクトチェックツール」は、こうした課題を解決してくれそうなAIツールです。
ユーザーが文章を入力すると、どの箇所に対してファクトチェックを行うべきかを判定。そして、その箇所の主張をサポートする根拠をWeb情報や社内の知識データベースから自動で検索・抽出し、真偽を判定します。
同ツールは、「AIや人間が作成した文章の正当性を効率的にチェックしたい」「エンドユーザーに、信頼性の高い文章や根拠を提供したい」「クローズドな環境で、秘匿性の高いデータに対してファクトチェックを行いたい」といった人や企業に向けて開発されました。
東大発AIベンチャー・株式会社TDAI Lab株式会社TDAI Labは、東京大学大学院教授鳥海不二夫研究室（工学系研究科システム創成学専攻）発のAIベンチャーとして、2016年11月に創業しました。
創業以来、情報の信頼性などに関する研究開発を手がけ、ChatGPTの登場以降は、AIによる生成文章の根拠の抽出や正当性の判断を行うツールの開発に注力。また、社内の機密データに対しての生成AIの応用なども進めています。
今回は、同社の一部クライアントに提供していたものを「LLMファクトチェックツール」としてリリースしました。
参考元：https://prtimes.jp/main/html/rd/p/000000014.000050703.html
（文・Higuchi）