少女がプールで遊ぶだけの動画が40万回再生──YouTubeの危うい「おすすめ」機能
ニューズウィーク日本版 / 2019年6月6日 14時30分
<あどけない子どもの動画を、YouTubeが小児性愛的指向のあるユーザーへのお勧め動画として表示してしまうという機能が問題になっている>
10歳の少女が、友達と水着でプールで遊んでいるだけの動画をYouTubeに投稿したところ、短期間で40万回以上再生され、母親を驚かせた──。米New York Timesは6月3日、あどけない子どもの動画を、YouTubeが小児性愛的指向のあるユーザーへのお勧め動画として表示してしまう問題を紹介した。
この機能は機械学習アルゴリズムを採用し、ユーザーが動画を再生すると、その下に「次の動画」としてその動画を見たユーザーが好みそうな動画をリスト表示するというもの。YouTubeによると、このお勧め機能によって再生される動画は再生される動画全体の約70%を占めるという。
「次の動画」に表示される動画が段階的に過激になっていく
New York Timesは、「次の動画」に表示される動画が段階的に過激になっていくという研究者の指摘を紹介している(この現象は、「不思議の国のアリス」でアリスが落ちた穴に例えて「ウサギ穴エフェクト」と呼ばれる)。例えば、自転車の動画を見て「次の動画」で何本も関連動画を再生していると、自転車レースでのショッキングな事故の動画を勧められるようになる。性的な動画の場合、お勧めはどんどん奇妙で極端な方向に進んでいき、被写体は若くなっていく。
研究では、セックスについて話す女性の動画を再生すると、下着姿の若い女性の動画を勧められ、思春期の女性が子供服を着てポーズを取っている動画を勧められ、その先はひたすら"服を少し身につけた"子どもの動画が勧められ続けた。
勧められる子どもの動画の多くは、性的な内容を意図したものではなく、おそらく家族内で楽しむホームムービー的な感覚で両親が投稿したものだが、YouTubeのアルゴリズムは特定の好みを持つユーザーのアクティビティなどから学ぶことで、そうした動画を別の解釈で勧めるようになったとみられる。
YouTubeは対策を説明するが......
YouTubeはNew York Timesに対し、ウサギ穴エフェクトを否定したが、「子どもに関しては、お勧めのスタンスをより保守的にしていきたい」と語った。
YouTubeは、YouTube における子どもの安全というWebページで「未成年者の心と体を危険にさらすコンテンツは、YouTube で許可されていません」と謳っているが、ただのファミリービデオでも、子どもが水着姿だったり着替えていたりするコンテンツが小児性愛者に対する「次の動画」としてまとめて表示されれば、未成年者を危険にさらすことになり得る。
-
- 1
- 2
この記事に関連するニュース
-
歌舞伎町のラブホテルなどに立ち入り調査 “客待ち”問題受け 警視庁
日テレNEWS NNN / 2024年4月18日 14時40分
-
YouTube、広告ブロックアプリの取り締まり強化
ITmedia NEWS / 2024年4月17日 7時14分
-
Meta、InstagramのDMでのヌード画像自動ぼかしのテスト開始 未成年者保護で
ITmedia NEWS / 2024年4月12日 8時48分
-
『ゲーム・オブ・スローンズ』 ジョセフ・ガット、ロサンゼルス当局を告訴 小児性愛で誤認逮捕され信用失墜
クランクイン! / 2024年4月8日 14時0分
-
米フロリダ州知事、未成年者のソーシャルメディア制限法案に署名(米国)
ジェトロ・ビジネス短信 / 2024年3月29日 1時40分
ランキング
-
1アフリカの異常気象による「最悪のシナリオ」が現実に… 気候変動→資源減少→紛争増加 日本も他人事ではいられない
47NEWS / 2024年4月18日 10時30分
-
2UNRWA職員、暴行被害か=イスラエル拘束下、米は「懸念」表明
時事通信 / 2024年4月18日 14時19分
-
3イスラエル、対イラン報復攻撃延期 複数報道
AFPBB News / 2024年4月18日 15時23分
-
4NASA長官、中国の宇宙進出を警戒
AFPBB News / 2024年4月18日 13時29分
-
5「外国人嫌悪的」 鉄鋼保護めぐるバイデン氏発言に中国反発
AFPBB News / 2024年4月18日 20時1分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください