AI合成偽ポルノに対して、米大手掲示板Redditがレッドカード

GIZMODO / 2018年2月12日 23時0分

180209reddit Image: Reddit

「このコミュニティーは停止されました」。

人工知能を使って好きな人のポルノ合成を作ろうというネットコミュニティが盛り上がっているという恐ろしいニュースが、先日ありました。が、闇エロがいつまでも放置されると思うなよ! SNSや掲示板サイトが(Twitter、Discord、Imgur、Pornhub、 Reddit)、対応に乗り出しました。

様々なウェブサービスから、コミュニティ停止措置を食らったのは、人工知能を使って作る偽ポルノ愛好家コミュニティ、通称Deepfakes。顔を入れ替えるという昔ながらのアイディアにAIをマッチさせることで、技術面のハードルを下げ、完成品の品質をあげた恐ろしい偽ポルノ。

中でも、Deepfakesコミュニティ登録者が10万人にもなっていたRedditが、厳しい対応をしています。問題が報道されたこともあってか、Redditはコミュニティポリシーそのものを変更。新たに「ヌード、または性的な画像や動画の許可なしの制作、投稿を広げる動きを禁ずる。偽コンテンツもこれに含まれる」というポリシーが追加。Redditのプレスリリースにて、ポリシーに反するコミュニティ、ユーザーにはBAN(アカウント停止措置)することも明らかにされました。

Redditは、過去にも有名人の偽ポルノをBANしたことがあります。今回の対応はその時よりも遅かったものの、ポリシー変更は大きなステップ。ま、ここでBANしても、今度はあっちでそっちでと、ネット全体を見ればいたちごっこになってしまうのでしょうけれど。それでも、米国ではインターネットの顔、流行発信地とされるRedditがDeepfakes対応をしたことにはインパクトがあります。

先月には、Reddit CEOのSteve Huffman氏が、新年の挨拶ポストを投稿。コミュニティ、ユーザーに感謝を述べるとともに、スタッフ倍増やサイトのデザイン変更プロジェクトについて語っていました。どのウェブサービスも、プラットフォームに投稿されるコンテンツ(差別的なものからフェイクニュースまで)に頭を悩ませる昨今。そんな中、今年のRedditには、大きな変化を期待したくなりますね。

Image: Reddit
Source: Reddit

Bryan Menegus - Gizmodo US[原文]
(そうこ)

ギズモードジャパン

トピックスRSS

ランキング