｢AI美女が荒稼ぎ｣独身の中国人男性たちが陥る沼 ミス東大でも注目､ディープフェイクのいま

2023年8月には、主要国で初めてとなる生成AIの本格的な規制である｢生成AIサービス管理弁法｣が施行された。

同弁法は生成AIを手掛ける企業向けのルールを定めるもので、中国国内に向けてサービスを提供する生成AIコンテンツに、「社会主義核心価値観（中国共産党が提唱する価値観で、｢富強｣や｢愛国｣をはじめ12の言葉からなる）の反映」を求めているほか、わいせつ・ポルノ情報、虚偽情報を含む内容を禁止し、知的財産権やプライバシーの保護についても言及した。

ただ、強力な罰則がなければ、これらの規制は大して機能しないかもしれない。前述したAI美女ライバーたちも、多くは自身がAIであると認めていない。運営会社や専門家がそう推測しているだけであって、実際には運営会社のフィルタリングを潜り抜けている投稿も多い。

YouTubeも2024年3月、生成AIなどを利用して改変や合成がなされたリアルな動画について、その旨を明記するよう義務付けると発表したが、実効性には疑問が残る。冒頭で紹介した生成AIで作成された可能性のある「ミス東大」を名乗る「雪乃なぎさ」のYouTubeアカウントは3月中ごろに停止されたが、3月21日に別アカウントが開設され、これまで同様、いや、さらに過激な投稿を再開している。

浦上 早苗：経済ジャーナリスト