インターネット投稿サイトの「note（ノート）」は人工知能（AI）を使い、ネット上で批判を集める「炎上」につながりかねない記事を公開前に検知し、投稿者に注意を促す機能を年内にも導入する。炎上や誹謗中傷が社会問題となる中、AIでリスクを回避する。法律相談サービスを手がける「弁護士ドットコム」の監修を仰いで開発する。ノートが19日までに発表した。
誰かを強く攻撃したり、差別的だったりする記述などをAIが事前に検知する。そのまま投稿しようとすると「攻撃的すぎるかも」「誰かを傷つけていませんか？」といったメッセージを表示し、注意喚起することを検討。将来、こうした仕組みを他のメディア運営会社などに販売することも視野に入れる。
ノートの投稿サイトは個人や企業が記事や写真、漫画を自由に掲載できる。閲覧回数によるランキングや広告を掲載しないのが特徴で、2014年の開設以来4千万件を超える投稿があった。
ノートの津隈和樹note事業本部長は「利用者を守ることはわれわれの重要な責任だ」と強調する。