ネット中傷に「渦中の企業」はどう向き合うか 法規制強化だけでは片付かない深刻な問題

東洋経済オンライン / 2020年7月14日 7時15分

こうした第三者的な支援サービスが増えていることからも、ネット空間における悪質な行為を「許すまじ」とする雰囲気がますます高まっていることが伺える。では、当の”現場”となっているプラットフォームサービス運営者は現状をどう認識し、対策しているのか。

「Twitter」を運営するツイッタージャパンの笹本裕社長は、6月に行った東洋経済のインタビューで、「場の健全性を担保することはSNSを運営する企業にとって一丁目一番地の課題」と強調した。

ツイッタージャパンに対しては、グローバルでのツイッターの運営状況と比して「ヘイトが野放しにされている」「(ツイートやアカウントの削除において)恣意的な運用を行っているのでは」といった指摘もあるが、「決してそのようなことはない。全世界共通のポリシーを基に対応を行っている」(笹本社長)と否定した。

そのポリシーでツイッターは、利用者が暴言や脅迫、差別的言動(人種、民族、出身地、社会的地位、性的指向、信仰している宗教などを理由にした攻撃、またはその扇動)を行うこと、 ヘイト表現を伴うプロフィール画像や表示名を使うことなどを細目で示した上で禁じている。

こうした禁止行為が行われていないか、同社ではサービスを展開するどの国でも24時間365日の監視体制を敷き、人の目とAI(人工知能)を用いて検知している。「殺害予告や脅迫行為のような直接的な表現のツイートには、アカウント凍結などの強制対応をすぐに行っている」(笹本社長)。

直近では、誹謗中傷被害を未然に食い止めるための策にも力を入れる。その1つが、投稿前に“警告”を出す機能だ。5月からアメリカ国内で試験運用している。「一時的な衝動で憎悪むき出しのツイートをしてしまったり、よく調べずに批判を書いてしまったりする人は少なくない。そういう人に『あなたの投稿で他人を傷つける可能性はないか』と語りかけ、冷静に再考してもらうのが狙い」(笹本社長)。日本での導入も目指しているという。

■コメント欄の誹謗中傷対策

誹謗中傷行為の“温床”として、SNSと並び問題視されてきたのが、掲示板やニュースサイトなどのコメント投稿欄だ。「Yahoo!ニュース」を運営するヤフーは6月、同サービスのコメント欄における誹謗中傷対策を強化するとともに、深層学習を用いた自然言語処理モデル(AI)の外部サイトへの技術提供を進めると発表した。

ヤフーで誹謗中傷コメント対策にAIを活用し始めたのは2014年。不適切なコメントを非表示にしたり、表示順位を下げたりするのに役立ててきた。今年3月には、巨大なデータ処理能力を持つ自社のスーパーコンピューター「kukai」を用いて、より高度な判定モデルへと刷新。検知能力が飛躍的に向上し、現在は1日当たり平均で2万件の不適切投稿(記事との関連性の低いコメントや誹謗中傷の書き込みなど)の削除を行っている。

この記事に関連するニュース

トピックスRSS

ランキング