8月末、フランス・パリの空港でテレグラム創設者であるロシア出身の大富豪、ドゥロフ容疑者が違法送金や児童ポルノ、詐欺、当局への情報開示拒否などサイバー犯罪捜査の一環で逮捕された。日本よりも身近な脅威に影響があるニュースとして受け取ったのは、韓国の人たちかもしれない。米国のセキュリティ会社の調査によると、人工知能（AI）で作られた本物のような偽コンテンツ、いわゆるディープフェイクによるわいせつ動画などの約半数に韓国人が登場するというのだ。その多くはテレグラムを通じて拡散されている。ライターの宮添優氏が、日本にとっても対岸の火事とは言えない、一般人が被害に遭うディープフェイクの現在についてレポートする。
＊ ＊ ＊
いま韓国国内で、大量のディープフェイク画像や動画がSNSで拡散され、大きな社会問題となっている。投稿と拡散に使われているのは、設定した時間が経つとメッセージやファイルを自動消去できるなど、高い秘匿性が特徴とされるアプリ「テレグラム」だ。特徴を悪用して、特殊詐欺グループやテロ組織が利用していることでも知られているが、そのテレグラムを舞台に、小中高生など未成年も含む一般人の女性たちの顔写真を、AIで性的な画像や動画と合成させたディープフェイク・ポルノが大量に流布されているのだ。
尹錫悦大統領が撲滅を指示するほど韓国で蔓延しているディープフェイク・ポルノは主に、テレグラムのグループ機能やチャンネル機能を利用して共有・拡散されている。「チャンネル」で発言できるのは管理者だけだが、参加できるユーザー数が無制限ということもあり、ニューヨークタイムズなどの報道機関や、ウクライナのゼレンスキー大統領やロシア外務省が公式に利用するほど便利なものだ。しかし、それを悪用して女性教師専門、看護師専門などとうたうチャンネルをつくり、それぞれ数百人から数千人のユーザーが参加してわいせつ画像や動画の共有、拡散の後押しをしていたのが韓国の事件だという。事件を取材している大手紙外信部記者が説明する。
「チャンネル内にはかなり生々しい、実在する女性の写真や映像を使ったフェイクコンテンツが溢れており、日本のアダルト作品を使って、顔だけをすげ替えたようなものまで確認できます。チャンネルの参加者は、互いに知り合いの写真やビデオ、卒業アルバムなどの写真を実名を含む個人情報付きでディープフェイクを作成に投げて、そのユーザーが作成したものを投稿する、という流れのようです。中には、勤務先や学校がある程度割れてしまい、身元を特定されてしまうような被害もあるようです」（外信部記者）
チャンネルにはディープフェイクを使って本物と見紛う動画を作成する職人のようなユーザーが参加しており、彼らに元画像を添付して作成を依頼し、完成したものを披露する、というやりとりがさかんに行われていた。勝手に写真を使われた未成年を含む多くの女性たちが、いつのまにか何万、何十万、いやもっと多くのユーザーにコンテンツとして消費され、デジタル性犯罪の被害者となっている。
デジタル性犯罪といえば韓国では、2020年に複数の逮捕者が出た「n番部屋事件」と呼ばれる性的搾取・暴行事件が起きている。このときはディープフェイクこそなかったが使用されたツールは主にテレグラムで、複数のチャットルームが犯罪の舞台となっており、その代表的な存在が俗に「n番部屋」と呼ばれていたため、この一連の事件に対する名前として定着している。
n番部屋事件では被害者の特定に繋がらないように、正確な被害人数は非公開にされ、具体的な被害内容はあまり公開されていないが、それでも聞こえてくる中身はあまりに酷いものだった。たとえば、未成年を含む複数の女性が性暴行されたりトイレの水を飲まされる様子を撮影した画像や動画があった。さらに悪辣だったのは、それらはいくつかに別れたアプリ内の「部屋」（チャットルーム）で販売されていたことだ。逮捕された首謀者の一人である男は、女性を脅迫していただけでなく、仮想通貨を使ったそれらの映像や写真の売買によって数千万円を稼ぎ出していたとされる。
「勝手に抜き出してきた映像を差し出し…」
日本国内でも、ここまで大規模ではないものの似たような事例はあった。
例えば約20年前、日本のネット上で密かな人気を博していたのは「アイコラ」なるものだった。
「アイコラ」は「アイドルコラージュ」の略で、女性アイドルや女性歌手の顔を、アダルト雑誌やヌード写真集から勝手に拝借した写真に貼り付けるというもの。いわゆる「首のすげ替え写真」に過ぎなかったが、パソコンが一般家庭に普及し、画像編集ソフトが出回った時期とも一致し、かなり自然な出来映えであることから、ネット上では有料で取引されることもあった。
筆者がかつて取材した元「アイコラ職人」という男性は、十数年前にアイコラ写真を作成したことで摘発され書類送検された後、スッパリ業界から足を洗っている。それでも、最近の動向はつぶさにチェックしているという。
「私たちが当時やったことも犯罪ですが、まさか一般人の写真や映像を使ったり、個人情報をばらまくことまではさすがにしませんでした。あくまで、コッソリ楽しむために、そして多少の金儲けのためにやっていたのは事実ですが……。最近では、ダークウェブ上に日本の女子高生や女子大生、さらにはInstagramやTikTokから勝手に抜き出してきた映像を差し出し”これでディープフェイクを作ってくれ”と依頼する者、される者もいる。さらに、Xの公開アカウント上でも、こうした依頼をしている人物がいる。私が言うのはおかしいかもしれませんが、タガが外れたなという感じです」（元アイコラ職人の男性）
実際にSNSをのぞいてみると、確かに同様の投稿が複数発見された。日本在住の一般女性のSNSから勝手に借用してきたと思われる写真や映像を持ち寄り、そこにわいせつな文言を入れたり、ディープフェイク作成の依頼を行っていた。ひどいものになると、そうした写真を紙に印刷したりして、そこに体液のようなものをかけたような投稿まであり、女性の人権を蹂躙しようとする悪質さが際立つ。
「韓国の事件は驚きましたけど、日本だってあまり変わらないような現状です。いずれ韓国のように、女性が脅されたり暴行を受けたり、それ以上の事件が起きるかもしれないと思っています。匿名だから大丈夫、という認識の元に、何でもやる人が増えたなという印象です。もっとも、私も身を隠していましたが捜査でバレた。あの当時に匿名アプリがあったとしたら、私も利用していたかもしれません」（元アイコラ職人の男性）
ちなみに、テレグラムなら秘匿性が高いから絶対に身バレしないということはない。運営会社が非協力的なので比較的、利用者の身元特定に時間がかかるのは事実だが、捜査当局によってログなどの情報が発見され、検挙に繋がった例も少なくない。
これまで、ネットで流布するディープフェイク・ポルノの素材にされて被害に遭うのは、歌手や女優、インフルエンサーなどの有名人女性だというのが一般的なイメージだっただろう。だが今は、有名無名を問わず、女性というだけで誰も安心できない世界になってしまったと言えるのかもしれない。
「n番部屋」事件が報じられたときも、尹大統領が撲滅を命じるほどの社会問題となっている今回の大量のディープフェイク・ポルノの事件についても、SNS上では「日本ではあり得ない」という声があがっている。だが実際は、ただ見えていないだけ、隠されているだけ、なのかもしれない。