ペンシルベニア州立大、AIライターの書いた文章を見分ける検出モデル!
Techable / 2021年2月21日 10時0分
チャットによる顧客対応やニュース記事の生成を担うAIライターは、有用な反面、悪用されるリスクもある。自然言語ジェネレーター(NLG)が高度化するにつれて、こうしたリスクが高まることから、ペンシルベニア州立大学の研究者らは、AIライターの書いた文章を判定する技術を開発しようとしている。
研究者らは8種類の最先端NLGを分析し、マシン分類子によって検出できるかどうかを確かめた。各ジェネレーターの文章作成スタイルを知ることで、セキュリティの脅威に備えるのが目的だ。
検出モデルを開発しマシン分類子を特定研究者らは複数の検出モデルを開発し、人間のライター1人と8種類のNLG(CTRL、GPT、GPT2、GROVER、XLM、XLNET、PPLM、FAIR)の書いた文章を分析している。
最近発行された1000本以上の政治ニュースのタイトルとコンテンツを収集。各ジェネレーター同じ条件のもと、タイトルとプロンプト入力により記事を生成した。
検出モデルによって、まず文章が人間によるものかNLGによるものかを判別できるかどうかをテスト。次に各検出モデルの機能を分析して、文章がどのNLGによるものかをマシン分類子から見分けようとした。
AIによる文章は単語数と特徴から判別できた一連のテストからはNLGはまだ、人間と区別がつかないほどのレベルに到達していないことが判明。ほとんどのジェネレーターは、文章の単語数と特徴を調べるだけで、AIによって書かれたものだと判別できた。
ただし、GROVER、GPT-2、FAIRといったNLGは、すべてのテストで判別の難易度が高く、しばしばマシン分類子による検出がむつかしかったという。
GPT-3含め、より洗練されたNLGの登場により、AIライターの生成した文章の判別は今後さらにむつかしくなると予想され、研究者らは検出モデルの改善を目指す。
参照元:Researchers test detection methods for AI-generated content/ Penn State News
外部リンク
この記事に関連するニュース
-
「最新の生成AI」はすでに人類の半数以上よりアタマが良い…落合陽一「今後、人類の働き方は大きく変わる」
プレジデントオンライン / 2024年6月21日 9時15分
-
UiPath、自社イベントAI-Powered Automation Summitに合わせ 日本語対応したAI関連機能と新たな大規模言語モデルを発表
PR TIMES / 2024年6月19日 16時15分
-
iPhoneに独自生成AI搭載 アップル、チャットGPTと連携
共同通信 / 2024年6月11日 9時47分
-
ChatGPTで新商品の企画案を作成するキホンのキ アイデア出しやイメージ画も作成してくれる
東洋経済オンライン / 2024年6月5日 16時0分
-
「どの生成AIに課金すべき?」を見極めるためにAI検索サービスに課金するという方法
ITmedia NEWS / 2024年6月1日 18時5分
ランキング
-
1柴犬が必死でくわえようとするのはまさかの“一生無理”なヤツ 子どものような戦いに「激可愛すぎて永遠にリピート」
ねとらぼ / 2024年6月30日 7時0分
-
2様子見していたあのゲーム、今こそ買い時かも!特選Steamサマーセール「過去最安」編【Steamサマーセール2024年夏】
Game*Spark / 2024年6月30日 16時0分
-
3iPhoneでも使うべし!Google系便利アプリ5選|iPhoneでGoogle
&GP / 2024年6月29日 22時0分
-
4別人級メイクの達人がすっぴんからパーティーメイクすると…… 驚きの大変貌に「めちゃめちゃビジュがいい!」「これはまさしく詐欺」
ねとらぼ / 2024年6月29日 19時30分
-
5なんだこれ……! “近未来すぎる砂時計”が話題に 「こういうのたまらん」
ねとらぼ / 2024年6月30日 12時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください