Yahoo!ニュース、不快コメントにAIが見直し提案「コメント添削モデル」を導入

　LINEヤフーは9月9日、ニュース配信サービス「Yahoo!ニュース」にてAIが表現の見直しを提案する「コメント添削モデル」の導入を開始したと発表した。 　Yahoo!ニュースは、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的としてコメント欄を提供している。ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前から誹謗中傷などの内容を含む投稿を禁止し、コメントポリシーに違反投稿の具体例をわかりやすく明示している。また、24時間体制の専門チームによる人的なパトロールに加えて、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使し、誹謗中傷をはじめとする違反コメントの削除などの対策を行なっている。

　今回新たに搭載したコメント添削モデルは、「コメントポリシーに違反するコメント」や、コメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対し、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案。 　具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、コメント添削モデルが「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップを表示。ユーザーはコメントを投稿完了前に表現の見直しを行うことができる。 　同社ではコメント添削モデルにより、ユーザーが投稿完了前にコメントを見直す機会を提供。該当の記事にまつわる人々や他のユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指すとしている。