東大発ベンチャーTDAI Lab、生成AIや人間が書いた文章の真偽を瞬時に判定するAIツールを提供開始
Techable / 2023年8月24日 8時0分
東大発AIベンチャーの株式会社TDAI Labは、ChatGPTなどの生成AIや人間が書いた文章の真偽について瞬時に判定するAIツール「LLMファクトチェックツール」の提供を開始しました。
同ツールにより、文章のファクトチェックにかける手間や時間を大幅に削減できるでしょう。
また、生成AIによる文章の信頼性を向上させることで、医療や報道など応用が難しかった分野への生成AIの活用促進が期待されます。
生成AIの「誤った情報が混入する」問題ChatGPTなどで生成する文章は完璧ではなく、誤った情報が混入する問題が常に指摘されてきました。
これにより、多くの企業がエンドユーザー向けの文章生成を完全自動化しようとする一方で、人間による目視検証が必要となる状況が生まれ、生成AIを活用できる企業は限定されていたようです。
また、従来のChatGPTなどは外部サーバーへのリクエストが必要で、機密情報を扱う際にはセキュリティの懸念がありました。
文章内の“ファクトチェックを行うべき箇所”を判定このたび提供開始となった「LLMファクトチェックツール」は、こうした課題を解決してくれそうなAIツールです。
ユーザーが文章を入力すると、どの箇所に対してファクトチェックを行うべきかを判定。そして、その箇所の主張をサポートする根拠をWeb情報や社内の知識データベースから自動で検索・抽出し、真偽を判定します。
同ツールは、「AIや人間が作成した文章の正当性を効率的にチェックしたい」「エンドユーザーに、信頼性の高い文章や根拠を提供したい」「クローズドな環境で、秘匿性の高いデータに対してファクトチェックを行いたい」といった人や企業に向けて開発されました。
東大発AIベンチャー・株式会社TDAI Lab株式会社TDAI Labは、東京大学大学院教授鳥海不二夫研究室(工学系研究科システム創成学専攻)発のAIベンチャーとして、2016年11月に創業しました。
創業以来、情報の信頼性などに関する研究開発を手がけ、ChatGPTの登場以降は、AIによる生成文章の根拠の抽出や正当性の判断を行うツールの開発に注力。また、社内の機密データに対しての生成AIの応用なども進めています。
今回は、同社の一部クライアントに提供していたものを「LLMファクトチェックツール」としてリリースしました。
参考元:https://prtimes.jp/main/html/rd/p/000000014.000050703.html
(文・Higuchi)
外部リンク
この記事に関連するニュース
-
フェイクニュースの社会課題を解決する偽情報対策システムの研究開発を加速
PR TIMES / 2024年7月19日 14時40分
-
富士通、SNS上などのフェイクニュースに対し偽情報対策システムの開発を強化
マイナビニュース / 2024年7月19日 10時57分
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第1回 企業の生成AI活用におけるメリットとリスクとは
マイナビニュース / 2024年7月16日 9時52分
-
AI生成文章の検出モデルを開発 GPTシリーズで生成された日本語の文章を高精度に検出
PR TIMES / 2024年7月2日 10時0分
-
AIスタートアップ SherLOCK株式会社、生成AI向けセキュリティとデータ保護を強化する革新的AIセキュリティソリューション ”SherLOCK AI Gateway”を提供開始
PR TIMES / 2024年6月27日 16時15分
ランキング
-
1「会社のWindows PCが突如ブルースクリーンに……」 世界中で報告相次ぐ 「仕事ができない」
ITmedia NEWS / 2024年7月19日 14時49分
-
2世界規模でWindowsがブルスクに うちのPCには影響あるの?
ITmedia NEWS / 2024年7月19日 16時25分
-
3札幌市イオンモールの駐車場が子育て世代に優しいと話題 気遣いの“言葉”に「これ素敵すぎる」「涙が出ちゃった」と称賛の声
ねとらぼ / 2024年7月18日 8時0分
-
4Type-Cケーブル1本で、4K映像を2画面出力できる!ドッキングステーション
ITライフハック / 2024年7月19日 11時0分
-
5コンテンツサービスで相次ぐ突然のクレカ決済停止の問題点 今後どう対応できるのか、議員と弁護士に聞いた
ねとらぼ / 2024年7月19日 12時0分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)