殺された我が子がディープフェイク動画で語り出す 過激化する実録犯罪コンテンツ 米

虐待された子どもの画像をもとに、AIが作成した動画がTikTokで話題沸騰中（実在の人物に類似していても、あくまでも偶然です）@TOUCHINGSTORY4U/TIKTOK

「生後21カ月のとき、おばあちゃんから230度のオーブンの中に閉じ込められた」。花柄のヘッドバンドをした大きな青い瞳のぽっちゃりした赤ちゃんが、TikTokの動画でこう語る。

悲しげなディラン・マシューの「Love Is Gone」のメロディをバックに、愛くるしい子どもらしい声で語る赤ちゃんは、ロディ・メアリー・フロイドと名乗った。ミシシッピー州で母親と祖母の3人で暮らしていたという。ある日お腹がすいて泣き続けていると、祖母にオーブンに入れられて死んだそうだ。「もっと多くの人に真実を知ってもらえるよう、フォローしてください」と、赤ちゃんは動画を締めくくった。

【写真を見る】ディープフェイクポルノに取り込まれる女子大生

当然ながら、動画の赤ちゃんは実在しない。AIで作成した動画だ。動画が掲載されていた@truestorynowというアカウントは5万人近いフォロワーを抱え、実在の犯罪被害者が事件を語る動画がいくつも投稿されていた。赤ちゃんの話は、ある部分までは真実だ。実際の名前はロディ・メアリーではなくロイヤルティ・メアリーちゃんで、2018年に刃物で刺された後、ミシシッピー州にある祖母の家のオーブンで焼かれた。祖母のキャロリン・ジョーンズ被告（48歳）は、今年になってから第1級殺人で起訴された。だがロイヤルティちゃんが死んだのは生後20カ月で、21カ月ではなかった。またTikTok動画の赤ちゃんとは違い、白人ではなく黒人だった。

こうした不一致は、裾野の広い実録犯罪もののサブジャンル「犯罪被害者AI動画」というグロテスクな世界では日常茶飯事だ。ここではAIを利用して、主に子どもの殺人事件の被害者を死の床からよみがえらせている。被害者が一人称で死に至るまでの惨状を詳しく語り、場合によっては数百万回も閲覧されている。ほとんどの場合、コンテンツについて事前の警告は一切ない。

「実に奇妙で、気味が悪い」と言うのは、ニューヘイヴン大学で刑事司法を教えるポール・ブリークリー助教授だ。「強烈なリアクションを引き起こすのが目的のようです。確実にクリックやいいねを稼ぐ手っ取り早い方法ですからね。見ていて落ち着きませんが、おそらくそれが狙いでしょう」。

多くのアカウントは、「遺族への配慮」から本物の被害者の写真は使っていません、という旨の但し書きをしている。17万5000人のフォロワーを抱える犯罪被害者AI動画専用アカウントNostalgia Narrativeも、動画のキャプションにこうした文言を添えている。このアカウントには、1995年に母親から虐待された末に殺された6歳のエリザ・イスキエルドちゃんや、2020年に母親の女友達から殺された1歳のスター・オブソンちゃんといった幼児の被害者だけでなく、ジョージ・フロイドさんやジョン・F・ケネディなど成人被害者のストーリーも投稿されている。ローリングストーン誌は様々なアカウントにコメントを求めたが、いずれも返答はなかった。だが被害者の外見に手を加えているのは、おそらくTikTokのコミュニティガイドラインが理由だろう。TikTokは3月に、一般市民や未成年者のディープフェイク画像を禁じるガイドラインを発表した（TikTokの広報担当者は、コミュニティガイドライン違反を理由に@truestorynowのアカウントを閉鎖したことをローリングストーン誌に認めた）。



こうした犯罪被害者AI動画がTikTokで拡散している現象は、実録犯罪もの全般の爆発的な人気から生じた倫理的問題の最新の例だ。『ザ・ジンクス』『殺人者への道』といったドキュメンタリーや『Crime Junkie』『My Favorite Murder』といったpodcastが絶大なカルト的人気を集めている一方、実録犯罪ものに批判的な人々は、現実に起こった恐ろしい暴力や殺人が純粋なエンターテインメントとして消費されることは道徳的にいかがなものか、と疑問を呈してきた。かたや素人探偵や実録犯罪のコアファンが増えれば、被害者の遺族が再び心に傷を負う可能性もある。

そうした懸念は、ロイヤルティちゃんのように被害者が（おそらくは遺族の同意なしで）本名を名乗り、自分目線で事件を振り返る動画の場合、不気味さが倍増する。「このような類は、すでに被害者となった人々に二次被害をもたらす可能性があります」とブリークリー助教授は言う。「AI動画に出てくる子どもたちの親御さんや親類の身になってみてください。ネットにアクセスしたら、死んだ我が子（そっくり）のAI動画が出てきて、奇妙な甲高い声で自分の身に起きた惨状を詳しく語るんですよ」。

ディープフェイク動画の作成に関連して、やっかいな裁判沙汰になる可能性もあるとブリークリー助教授は付け加え、実録犯罪AI動画の台頭をディープフェイク・ポルノの人気に例えた。同意のないディープフェイク画像や動画を作成しても連邦法違反には問われない。だが、バージニア州とカリフォルニア州ではディープフェイク・ポルノが禁じられている。また先月にはジョー・モレル連邦下院議員が、ディープフェイク・ポルノを配信した人物を刑事・民事両方で責任を問う、という法案を提出した。

実録犯罪もののディープフェイク動画は、明らかにディープポルノとは異なる。だがブリークリー助教授には、悲しみに沈む遺族がこうした動画のクリエイターを民事訴訟で訴えたくなる気持ちがよく分かる。動画が課金されていればなおさらだ。もっとも助教授も指摘するように、被写体が故人であるがゆえ、遺族が名誉毀損を立証するのは難しいだろう。「非常に厄介で、曖昧なグレーゾーンです」と助教授は言う。

だが、ひとつだけ明らかなことがある。AI技術が日進月歩で進化し、動画の拡散を抑制する規制が皆無に等しい中、こうした動画の人気の高まりは問題ではない。むしろ、実録犯罪ものとAIの組み合わせがどこまで悪化するかが問題だ。いずれ実録犯罪系のクリエイターが殺人の「被害者」の声を複製するだけでなく、事件を恐ろしい細部まで再現できるようになるのは容易に想像がつく。「こうした問題は、新しい技術の進歩にはつきものです」とブリークリー助教授。「いったいどこで終わりが来るのでしょう？」。

2023年5月31日（木）午後4:15改訂：この記事は、@truestorynowがTikTokから削除された理由について加筆し、改訂されました。

関連記事：女子大生が自分のディープフェイクポルノを発見、犯人は罪に問われず 米

from Rolling Stone US