｢コメント欄閉鎖も初めて導入｣ヤフーは誹謗中傷コメントを排除できるのか

写真＝ヤフージャパンプレスリリースより

ヤフーは10月19日、ヤフーニュースのコメント欄を記事単位で非表示にするなどの新たな誹謗中傷対策を発表した。同月初めには、コメント欄に「過度な批判、攻撃的な投稿」を書き込まないことを求める注意書きも出していた。秋篠宮家の長女眞子さまの結婚についての発表があり、誹謗中傷のコメントが急増したからだとみられている。桜美林大学の平和博教授は「欧米ではプラットフォームへの規制が強化されている。ユーザーが安心して利用できることが重要だ」という――。

■AIが判定し、記事単位で「非表示」に

ヤフーは総選挙公示日の10月19日、「ヤフコメ」と呼ばれるヤフーニュースのコメント欄の新たな誹謗(ひぼう)中傷対策を発表した。今回の対策では、規約違反の投稿を繰り返したユーザーの「投稿停止措置」の強化や、総選挙期間中の注意メッセージの表示のほか、コメント欄そのものを記事単位で非表示にする初めての対策も盛り込んでいる。

同社はこれまで、人工知能（AI）を使って規約違反のコメントを自動削除するなどの対策を行ってきた。今回の対策はこれに加えて、投稿数が一定数を超えた記事のコメント欄を対象に、AIが規約違反コメントを点数化し、基準に達した場合はその記事のコメント欄そのものを非表示にするという（コメント数や点数の具体的な数値は明らかにしていない）。言わば、コメント欄の部分的な閉鎖の仕組みの導入だ。

ユーザーが自由に投稿できるプラットフォームは、一方でフェイクニュースや誹謗中傷など違法有害情報の拡散の舞台にもなる。世界的な批判の高まりを受け、米国やEUではプラットフォームへの規制強化の議論が続く。

ヤフーニュースのコメント欄にも、以前から誹謗中傷投稿への対策が不十分だとの指摘が根強くある。プラットフォームは有害情報を排除できるのか。改めてそんな疑問が突き付けられる事態が10月初めにも起きていた。

■「不適切な内容も散見されたため」

「10月1日、Yahoo!ニュース コメント投稿数が急増しました。その中には、不適切な内容も散見されたため、記事ページやコメント欄などに注意書きを追加し、ユーザーのみなさまへのご協力をお願いするとともに、パトロールを強化しています」

ヤフーは10月2日、「ユーザーのみなさまへのお願い——コメントの投稿にあたって——」と題する声明文を掲載。その中で、「いま一度、コメントポリシーをご一読いただき、過度な批判、攻撃的な投稿はお控えください」などとする、ユーザーへの呼びかけを行った。ヤフーがこのような呼びかけを行うのは、プロレスラーの木村花さんが、誹謗中傷過熱の中で死亡した昨年5月以来だ

ヤフー広報室はこの声明文について、「コメントの詳細や、個別の記事に関しては回答を控えさせていただきます」としている。10月1日は、自民党の岸田文雄総裁による新体制発足の日であり、プロ野球の日本ハムが斎藤佑樹投手の現役引退を発表した日でもある。

ただ、ネットユーザーの関心を集めたのは、宮内庁が午後2時から行った記者会見だったようだ。そこで明らかにされたのは、眞子さまの結婚の日取りと、眞子さまが「複雑性PTSD（心的外傷後ストレス障害）」である、との診断結果だった。その原因とされたのは、結婚を巡る誹謗中傷だ。

写真＝Yahoo!ニュースコメント欄より

■宮内庁の発表を境に反応が過熱する

同日午後6時すぎの、ヤフーニュースの「コメントランキング」の「総合」ジャンルを見ると、40件のランキング入り記事のうち、トップ3を含む25件が眞子さま関連だった。トップは「眞子さまが複雑性PTSD状態に　宮内庁公表　医師『結婚巡る誹謗中傷で』」（毎日新聞）で、コメント数は1時間あたり5821件、その後のコメント総数は2万2000件超だった。

ただし、この件数にはヤフーによる「不適切な内容」の削除分は含まれていない。参考までに宮内庁の会見の前、同日午前9時すぎの「コメントランキング」を見ると、トップは「自民党副総裁に麻生太郎氏を起用へ」（毎日新聞）でコメント数は1時間あたり1177件（その後のコメント総数は1万8000件超）。ランキング入りした40件の記事の中で、眞子さま関連は12件だけだった。宮内庁の発表時間を境にした反応の過熱ぶりがわかる。

ヤフーは、ツイッターの投稿をキーワードで検索できる「リアルタイム検索」というサービスを提供している。これを使って「眞子さま」というキーワードの関連投稿を調べると、宮内庁の発表が行われた10月1日午後2時だけで1076件と急上昇し、翌2日午前0時までで計2万7395件に上っている。

そして、投稿に含まれる言葉から感情の傾向を機械的に判定する「感情の割合」というデータを見ると、78％はネガティブ（22％がポジティブ）と判定されている。ヤフーニュースにとどまらない、ネット上の関心の高さと、その反応の傾向がうかがえる。

■「フェイスブックは事実を歪めている」

違法有害な投稿の扱いをめぐるプラットフォームへの批判は、世界的に広がっている。

「経営陣は、フェイスブックとインスタグラムをより安全にする方法を知りながら、そのための修正を行おうとしない。人々のことより、莫大な利益を優先したからです」

関連サービスを含めた月間ユーザー数は35億人に上る世界最大のソーシャルメディア、フェイスブック。そのコンテンツ管理の問題点について、内部文書を基に告発をした同社の元プロダクトマネージャー、フランシス・ホーゲン氏は10月5日、米上院の公聴会でそう証言した。

ホーゲン氏は公聴会に先立ち、米ウォールストリート・ジャーナルに内部文書を提供。同紙はこれに基づいて、インスタグラムの利用が10代の女性ユーザーのメンタルヘルスに与える悪影響や、フェイスブックページでの反ワクチンのコメントの氾濫などを、社内調査で把握しながら十分な対策を取っていなかったと指摘した。

同様の批判は、公聴会から3日後に発表されたノーベル平和賞の受賞者の一人でフィリピンのニュースサイト「ラップラー」の最高経営責任者（CEO）兼社長、マリア・レッサ氏も行っている。

「フェイスブックは事実を歪め、ジャーナリズムを歪めている」「（フェイスブックのアルゴリズムは）事実よりも、怒りと憎悪が入り交じったうその拡散を優先している」

フィリピンのドゥテルテ政権への批判を続ける中で、ソーシャルメディアを通じた攻撃の標的となってきたレッサ氏の指摘も、また重い意味を持つ。

フェイスブックへの批判が注目を集めるのは、新型コロナウイルスの感染拡大についてのデマの氾濫や、2020年米大統領選を巡る陰謀論が引き金となった連邦議会議事堂乱入事件など、違法有害情報が現実社会に多大な被害を及ぼす事例が相次いでいるためだ。

■欧米はプラットフォームへの規制を強化

違法有害情報にどのように対処するべきか。議論の照準は、その主な拡散の舞台であるプラットフォームに向けられ、法規制強化の動きが進んでいる。

米国では、投稿コンテンツに対するプラットフォームの幅広い免責を規定する通信品位法230条を改正し、免責を限定的にするべきだ、との議論が進む。フェイスブックの内部告発者であるホーゲン氏は、同条改正に加えて、アルゴリズムの透明性や内部データ開示などを議会に提言している。

欧州では、すでにドイツが2017年から、ソーシャルメディア上のヘイトスピーチやフェイクニュース対策として、プラットフォームに違法コンテンツへの対応義務を課し、制裁金の規定もある「ネットワーク執行法」を施行している。さらにEUは昨年12月、フェイスブックやグーグルなど米国の巨大プラットフォームに照準を絞り、特に違法情報への対応義務などを盛り込んだ「デジタルサービス法案」を公表し、規制の度合いを強めている。

ヘイトスピーチ、フェイクニュースなどの違法有害情報対策と、プラットフォームへの規制強化は、世界的な潮流となっている。

■木村花さんの事件以降もやまぬ誹謗中傷

日本でも、欧米などの議論と平行して、違法有害情報への対策は検討されてきた。

総務省の有識者会議「プラットフォームサービスに関する研究会」は2020年2月の報告書で、フェイクニュースなどの偽情報対策について、表現の自由に配慮し、「プラットフォーム事業者を始めとする民間部門における関係者による自主的な取組を基本とした対策を進めていくことが適当である」との整理をしている。

そして同年5月23日、ネット上の誹謗中傷を巡って注目を集める事件が起きる。プロレスラーの木村花さんの死亡事件だ。出演していたリアリティー番組「テラスハウス」内でのエピソードをきっかけに、木村さんへの誹謗中傷が相次いだ末の事件だったとされる。

この事件をきっかけに、プラットフォームへの誹謗中傷投稿は、改めて大きな社会問題となる。今年4月には、匿名投稿者の身元情報開示手続きを迅速化するための「改正プロバイダ責任制限法」が成立している。また、刑法の侮辱罪の厳罰化も検討中だ。

ヤフーニュースは木村さんの事件の4日後、「ユーザーのみなさまへのお願い　――コメントの投稿にあたって――」と題した声明文を発表している。今月2日の声明文と、まったく同じタイトルで、ほぼ同趣旨の内容だ。約1年半の時間を経て、ユーザーに対し、再び同じことを呼びかけなければならない状況となったわけだ。

■「24時間体制のパトロール」対策を強めるヤフー

ヤフーはまた、前回の声明文公表の5日後に外部有識者会議「プラットフォームサービスの運営の在り方検討会」の設置を発表。12月にはその提言を受けて、ヤフーニュースなどへの誹謗中傷投稿に対して、削除基準の明確化やAIを使った削除の精度向上などの対策強化を打ち出している。

今年2月にヤフーが総務省の有識者会議に提出したヒアリングシートによると、ヤフーニュースのコメント欄への1カ月の書き込み数は約1300万件。利用規約違反などの外部からの指摘が16万件、このうち誹謗中傷などの「不快」を理由とした削除が1万8000件。また規約違反の指摘以前に、AIによって削除された「不快」投稿は5万8000件としている。このほかに、24時間体制で専門チームによる投稿のパトロールも実施しているという。

ヤフーは、AIの判定を基に、不適切な投稿を繰り返すユーザーに対して「乱暴な言葉づかいや他の人が傷つく内容がないか考えてみましょう」なとどする注意メッセージを表示したところ、表示対象となるアカウントは昨年8月から4カ月で13.5％減少する効果があったという。

一方で、投稿内容が刑事事件に発展する事例もある。5月には、コメント欄に大阪府高槻市議を中傷する虚偽の投稿をしたとして、同市内の30代の男性に対し、茨木簡裁が名誉毀損(きそん)罪で罰金10万円の略式命令を出していた、と報道されている。

■コメント欄がプロパガンダに利用されている実態も

コメント欄の問題は、誹謗中傷などの違法有害情報以外にもある。外国勢力による情報工作の標的にされている、との指摘だ。

英カーディフ大学の研究チームが9月初めに公表した報告書によると、欧米や日本を含む16カ国（地域）、32の大手メディアを調査したところ、これらのコメント欄を標的に親ロシアの「読者コメント」が書き込まれ、それがロシアの政府系メディアの「まとめ記事」を通じて、プロパガンダとして拡散されている実態が明らかになったという。日本でその標的となっていたのが、ヤフーニュースのコメント欄だった。

写真＝iStock.com／mako

※写真はイメージです - 写真＝iStock.com／mako

■「地獄」「廃止」ユーザーに向き合った対応が必要

ヤフーニュースのコメント欄を巡っては、誹謗中傷が後を絶たない、との批判が根強い。フェイスブックへの批判と同様に、「利益優先」との声も上がる。これに対してヤフー広報室は、コメント欄はニュース理解のための「解説や捕捉」などを提供するもので、「PV（ページビュー）を増やすことを目的として提供しているわけではない」としている。

ヤフーニュースのコメント欄は、ネットユーザーからどのように見られているのか。ヤフーニュースへのコメント投稿数が急増したという10月1日から10日まで、「ヤフコメ」というキーワードに対するツイッター上の反応を、ヤフーのリアルタイム検索で調べてみた。

この間のツイッターでの関連投稿数は1万507件。そして、「感情の割合」は91％がネガティブだった。ネガティブの具体的な中身とは何か。ユーザーが「ヤフコメ」とともに頻繁に検索するキーワードとして表示された候補は、「廃止」「反ワクチン」「地獄」「誹謗中傷」などだ。

有害情報を完全に排除することは不可能だし、「表現の自由」への萎縮効果も大きい。ただ、これらのユーザーの反応からは、コメント欄の誹謗中傷対策などが、十分とは評価されていない現状が浮かび上がる。ユーザーが安心して利用できるようにするためには、その声に向き合った対応が求められる。今回の新たな誹謗中傷対策が十分な効果を上げられるかどうかを、ユーザーは見ている。

（※ヤフーリアルタイム検索のデータ確認は10月20日現在）

----------

平 和博（たいら・かずひろ）
桜美林大学リベラルアーツ学群 教授、ジャーナリスト
早稲田大学卒業後、1986年、朝日新聞社入社。社会部、シリコンバレー（サンノゼ）駐在、科学グループデスク、編集委員、IT専門記者（デジタルウオッチャー）などを担当。2019年4月から桜美林大学リベラルアーツ学群 教授（メディア・ジャーナリズム）。主な著書に『悪のAI論　あなたはここまで支配されている』『信じてはいけない　民主主義を壊すフェイクニュースの正体』（いずれも朝日新書）などがある。

----------

（桜美林大学リベラルアーツ学群 教授、ジャーナリスト 平 和博）