中国スマホが“とある場所”で「消しゴムマジック」を使えないワケ 実際に検証してみた

　今回の写真では問題なかったが、vivo、OPPO、Xiaomiの機種でも被写体によっては「編集できない」といった内容が表示された。どこかのメーカーがダメというわけではなく、中国で販売されている機種では何かしらの理由で弾いている可能性が高い。

　また、古い機種では問題なく処理できる。Pixelでいう「消しゴムマジック」に当たる処理は問題なく行えるようだ。今回うまく出力できなかったものは比較的新しい機種で、いずれも生成AIを用いた塗りつぶし等が可能な「編集マジック」に近い機能を用いる点が違いとなる。

　いずれも画像認識をして弾いていること。これを行わない古いタイプの編集機能では利用できることから、中国本土向けに販売されている機種は、生成AIによる予期せぬ処理がかかる恐れのある被写体や画像を識別して弾いている可能性が高いと判断する。

●天安門で画像編集ができない理由は「中国向けのローカライズ」

　前述した仮説をもとに調べていくと、興味深いことが判明した。実は、中国で生成AIを用いたサービスを一般消費者に提供するには、中国政府の許可が必要なのだ。これは2023年に中国では「生成AIサービス管理暫定弁法」というものが制定され、一般公衆に提供する生成AIサービスは言語モデルをはじめとしたAIの学習内容はもちろん、特定の内容が生成できない「調整」といったものが政府から審査されるのだ。

　その中には「共産主義の転覆や反政府的な活動をあおる内容」も含まれ、あらかじめ出力できないようになっているという。これらの審査をパスしなければ、中国では生成AIを利用したサービスそのものを提供できないのだ。

　ここで天安門の画像をはじく理由が納得できた。歴史的な事件や行事の舞台となった天安門は「反政府的な活動」を防ぐために、現地には多くの武装警察が巡回している。これは中国のインターネット上でも同様で、「共産党体制の転覆」を暗喩するような内容の投稿はできないといった厳しい監視がされている。例えば、「天安門事件」に関するものをSNSで発信できない件は有名な話だ。

　その一方で、天安門広場から見た裏手、人民英雄記念碑をバックにした写真は問題なく編集できた。このことから、生成AI側で「象徴的な天安門」や「天安門に掲示される毛沢東氏」をはじく挙動だと考えられる。

　また「国家元首を侮辱する」といった表現を防ぐという観点からか、習近平国家主席や毛沢東氏の写真や肖像画も生成AIを用いた機能で編集することができない。加えて、習氏を示すネットスラングとして中国では検閲対象となる「くまのプーさん」も生成AIを用いた編集はできない。