アングル:動画投稿したウクライナ女性、中国で勝手にAI改変され「ロシア人」に
ロイター / 2024年6月24日 16時37分
6月21日、 米ペンシルベニア大学の学生でウクライナ出身の女性ユーチューバー、オルガ・ロイエクさん(21)はインターネットの世界で注目を浴びたいと思っていたが、こんな形を望んだわけではなかった。写真はAIのイメージ。2023年3月撮影(2024年 ロイター/Dado Ruvic)
Alessandro Diviggiano
[北京 21日 ロイター] - 米ペンシルベニア大学の学生でウクライナ出身の女性ユーチューバー、オルガ・ロイエクさん(21)はインターネットの世界で注目を浴びたいと思っていたが、こんな形を望んだわけではなかった。昨年11月のチャンネル開設直後に自分の画像が無断で改変され、自分そっくりの女性がロシア人として中国の支援に感謝する内容の動画が出回るようになったのだ。
「ナターシャ」と名乗るロイエクさんそっくりの女性は流ちょうな中国語で中国のロシア支援に感謝し、少しお金が欲しいからとロシア製の菓子を売り込んでいた。画像の改変には人工知能(AI)が使われ、偽アカウントの中国国内のフォロワー数は数十万と、ロイエクさん自身のフォロワーよりもはるかに多かった。
「クレムリンやモスクワを背景に、中国語でロシアと中国の素晴らしさについて話す自分の姿を見て、本当に気味が悪かった。自分が実際に口にしないようなことだったから」と、ロイエクさんは話した。
中国のソーシャルメディアでは、達者な中国語で中国への強い思いを語り、ロシアを支援するためと称してロシアからの輸入品を販売しようとするロシア人女性のように見える人物のアカウントが急増。ロイエクさんのケースはその典型的な例だ。
しかしこのような女性が実際に存在するわけではない。専門家によると、オンライン上で見つけた実在女性の映像を、多くの場合無断で流用してAIで生成したもので、中国の独身男性に製品を売り込むために使われている。
ロイエクさんの画像を使って作られたアカウントは菓子などの売上高が数万ドルに上っている。一部投稿にはAIを使用して作成された可能性がある旨の免責事項が盛り込まれている。
こうした生成画像の利用は、中ロ首脳が2022年に宣言した両国の「無制限の協力関係」という方針に便乗したものだ。
高度なAI技術を手掛けるXMOV社のジム・チャイ最高経営責任者(CEO)は、こうした技術は「非常に一般的で、中国では多くの人が使用している」と述べた。「例えば、自分の二次元デジタル動画を作成するには、30分の映像を撮影し、それを再編集するだけで済む。もちろん見た目は非常にリアルで、言語を変える場合は音声と口の動きを同期させるだけだ」という。XMOVはロイエクさんの件には関与していない。
ロイエクさんのケースは、強力なAIツールによるコンテンツの作成と配信が世界的に広がる中、AIが違法もしくは非倫理的な目的で使われるリスクを浮き彫りにしている。
対話型人工知能(AI)「チャットGPT」など生成AIの普及が進む中、AIが誤情報やフェイクニュース、著作権侵害に加担するとの懸念が高まっているのだ。
中国は1月、AI産業の標準化に関するガイドラインの素案を発表し、2026年までに50余りの国が参加する業界標準とすることを提案。欧州連合(EU)でも今月、リスクの高いAIシステムに対して厳しい透明性義務を課すAI規制法が発効した。
しかし北京大学法学院のシン・ダイ准教授は、今は規制がAI発展のペースに必死で追いつこうとしている状況だと指摘する。「情報やコンテンツを作成し、配信する強力なツールがほぼ分刻みで次々と利用可能になっていくことが予想される。重要なのはとにかくその量が多すぎるということで、これは中国だけでなくインターネット世界全体も同様だ」という。
この記事に関連するニュース
-
中国で“親中ロシア人”フェイク動画が拡散 AI作成か ウクライナ侵攻のプロパガンダ目的の可能性も
TBS NEWS DIG Powered by JNN / 2024年6月25日 16時53分
-
バイデン氏、G7サミットへ出発 ウクライナ支援やロシア制裁など協議
ロイター / 2024年6月13日 0時6分
-
大阪の電車の中国語アナウンスが話題に=中国ネット「まったく同じ!」「これは明らかに…」
Record China / 2024年6月5日 16時0分
-
OpenAI、ロシアや中国によるChatGPTなどのAIツール不正利用について報告 5件を阻止
ITmedia NEWS / 2024年5月31日 10時40分
-
世論操作に人工知能利用 オープンAIが特定
共同通信 / 2024年5月31日 6時12分
ランキング
-
1ソニー宮城拠点、250人削減=ブルーレイ、生産縮小
時事通信 / 2024年6月29日 15時49分
-
2「クレカタッチ」は交通系ICカードを駆逐するのか 熊本で「全国相互利用」離脱、一方で逆の動きも
東洋経済オンライン / 2024年6月29日 7時30分
-
3「押しボタン式信号」なぜ“押してすぐ青”にならないケースが? 納得の理由があった!
乗りものニュース / 2024年6月29日 16時42分
-
4作文は「理系だと苦手」「文系が得意」という大誤解 算数が得意な子は大概「作文もうまい」納得理由
東洋経済オンライン / 2024年6月29日 10時0分
-
5池袋西武とヨドバシ「売り場折半」の波紋と懐事情 北側にヨドバシ出店、西武の集客力に影響は?
東洋経済オンライン / 2024年6月29日 10時30分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)