少女がプールで遊ぶだけの動画が40万回再生──YouTubeの危うい「おすすめ」機能
ニューズウィーク日本版 / 2019年6月6日 14時30分
<あどけない子どもの動画を、YouTubeが小児性愛的指向のあるユーザーへのお勧め動画として表示してしまうという機能が問題になっている>
10歳の少女が、友達と水着でプールで遊んでいるだけの動画をYouTubeに投稿したところ、短期間で40万回以上再生され、母親を驚かせた──。米New York Timesは6月3日、あどけない子どもの動画を、YouTubeが小児性愛的指向のあるユーザーへのお勧め動画として表示してしまう問題を紹介した。
この機能は機械学習アルゴリズムを採用し、ユーザーが動画を再生すると、その下に「次の動画」としてその動画を見たユーザーが好みそうな動画をリスト表示するというもの。YouTubeによると、このお勧め機能によって再生される動画は再生される動画全体の約70%を占めるという。
「次の動画」に表示される動画が段階的に過激になっていく
New York Timesは、「次の動画」に表示される動画が段階的に過激になっていくという研究者の指摘を紹介している(この現象は、「不思議の国のアリス」でアリスが落ちた穴に例えて「ウサギ穴エフェクト」と呼ばれる)。例えば、自転車の動画を見て「次の動画」で何本も関連動画を再生していると、自転車レースでのショッキングな事故の動画を勧められるようになる。性的な動画の場合、お勧めはどんどん奇妙で極端な方向に進んでいき、被写体は若くなっていく。
研究では、セックスについて話す女性の動画を再生すると、下着姿の若い女性の動画を勧められ、思春期の女性が子供服を着てポーズを取っている動画を勧められ、その先はひたすら"服を少し身につけた"子どもの動画が勧められ続けた。
勧められる子どもの動画の多くは、性的な内容を意図したものではなく、おそらく家族内で楽しむホームムービー的な感覚で両親が投稿したものだが、YouTubeのアルゴリズムは特定の好みを持つユーザーのアクティビティなどから学ぶことで、そうした動画を別の解釈で勧めるようになったとみられる。
YouTubeは対策を説明するが......
YouTubeはNew York Timesに対し、ウサギ穴エフェクトを否定したが、「子どもに関しては、お勧めのスタンスをより保守的にしていきたい」と語った。
YouTubeは、YouTube における子どもの安全というWebページで「未成年者の心と体を危険にさらすコンテンツは、YouTube で許可されていません」と謳っているが、ただのファミリービデオでも、子どもが水着姿だったり着替えていたりするコンテンツが小児性愛者に対する「次の動画」としてまとめて表示されれば、未成年者を危険にさらすことになり得る。
-
-
- 1
- 2
-
この記事に関連するニュース
-
男子生徒2人と性行為、うち1人の子を出産 教師の女に禁錮刑 英
AFPBB News / 2024年7月5日 14時25分
-
【イタすぎるセレブ達】カニエ・ウェスト、劣悪な労働環境で元従業員に訴えられる「上司から奴隷と呼ばれた」
TechinsightJapan / 2024年7月3日 15時42分
-
小児性愛者エプスタイン、23歳の女性は「自分には年を取り過ぎ」と言っていた── 大陪審の記録が20年ぶりに公開
ニューズウィーク日本版 / 2024年7月2日 15時43分
-
同居している高校生の息子に「住民税の通知」が届きました。住民税がかかるのは「18歳から」ではないでしょうか?
ファイナンシャルフィールド / 2024年6月18日 3時40分
-
映画「バティモン5」に映る"移民たちのリアル" 映画撮影の背景について、ラジ・リ監督に聞く
東洋経済オンライン / 2024年6月8日 13時30分
ランキング
-
1フランス政界を激震させる国民連合 「極右」と呼ばれる理由は?
日テレNEWS NNN / 2024年7月6日 18時14分
-
2バイデン大統領、選挙戦継続を改めて強調 撤退へ圧力強まる
日テレNEWS NNN / 2024年7月6日 17時2分
-
3ゼレンスキー氏、スターマー英新首相と電話会談 支援継続の確約に謝意
産経ニュース / 2024年7月6日 9時43分
-
4上川外相、カンボジア訪問 共同通信記者の慰霊碑に供花
AFPBB News / 2024年7月6日 14時54分
-
5台湾検察、民進党大物を逮捕 収賄容疑、政権に打撃の可能性も
共同通信 / 2024年7月6日 18時31分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)