ヤフコメにAI見直し提案「コメント添削モデル」導入 ポリシーに違反＆不快と感じる可能性のある表現が対象

ヤフコメに「見直しを提案するAI」導入

LINEヤフーは9日、同社が運営するインターネットニュース配信サービス「Yahoo！ニュース」の「Yahoo！ニュース コメント」において、投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。提案は「Yahoo！ニュース コメントポリシーに違反するコメント」や、違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して実施される。

「Yahoo！ニュース」のコメント欄は2007年から提供。ユーザーの表現の自由を尊重するとともに、誹謗中傷などの内容を含む投稿を禁止し、コメントポリシーに違反する投稿の具体例を明示している。

また、24時間体制の専門チームによる人的なパトロールに加えて、同社開発AIなどのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めているという。さらに、建設的なコメントとしてのスコアが高いものをAIが判定し、上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」も導入してきた。

そして新たに開始した「コメント添削モデル」は、ユーザーが投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、コメントポリシーに違反するものや、「不快と感じる可能性のある表現」と判断された投稿に対して適用。該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示され、ユーザーが投稿完了前に表現の見直しを行うことが可能となる。同機能の導入により、同社は、該当の記事にまつわる人や他のユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指すとしている。