テイラー・スウィフト(34)のディープフェイク画像がSNSで拡散された。これらの画像は、AI生成されたテイラーが極めて挑発的なポーズを取ったものだった。X(旧Twitter)はこれらの画像を削除し、その後も監視を続けていると発表した。今回の事態を受け、米国の政治家達はディープフェイク画像の作成を犯罪とする新たな法律の制定を求めている。ある関係者によると、テイラーは法的措置も検討しているという。
テイラー・スウィフトがディープフェイク・ポルノサイトのターゲットとなり、AI生成されたテイラーの不適切なフェイク画像がSNSで拡散された。
画像はテイラーが極めて挑発的なポーズを取っているもので、X(旧Twitter)では「テイラー・スウィフトAI」がトレンド入りした。
ディープフェイクを検出するプラットフォームを提供している「Reality Defender」によると、AI生成されたテイラーが血まみれになる姿や、アメリカンフットボール関連などの画像が発見されたという。テイラーはNFL選手のトラヴィス・ケルシー(34)と交際中であるため、アメフト関連の画像が生成されたとみられる。
これに対し、テイラーのファンは「こんなものを拡散する奴は変態だ」「正気の沙汰ではない」「テイラーを守って!」などと憤りを表し、彼女に法的措置を検討するよう促す人々もいた。
テイラーに近い関係者は英メディア『Daily Mail Online』の取材に応じ、「彼女が法的措置を取るかどうかは検討中ですが、はっきりしていることが一つあります。これらのAIが生成した画像は、虐待的で攻撃的、搾取的であり、知識もなく行われたものです」と怒りを露わにした。
現地時間26日にはXが声明文を発表し、テイラーのフェイク画像を「積極的に削除している」と述べ、拡散に関与したアカウントに対して「適切な措置を取っている」と伝えた。
そして「さらなる違反があれば即座に対処し、コンテンツが削除されるように状況を注意深く監視しています」と付け加えた。
その後、Xでは「テイラー・スウィフト」という名前に加え、「テイラー・スウィフトAI」や「テイラーAI」という言葉が検索できなくなった。
画像の多くは公開と同時に削除されたが、ある写真は削除される前に4700万回閲覧されたと報告されている。
こういった事態を受け、米国の政治家達はディープフェイク画像の作成を犯罪とする新たな法律の制定を求め始めた。
ジョー・バイデン米大統領の報道官を務めるカリーヌ・ジャン=ピエール氏は、ソーシャルメディア企業に対し「自らのルールを執行する重要な役割を担っている」と伝えた。
米ニューハンプシャー州の予備選挙中だった23日には、人工知能(AI)で生成したとみられるバイデン大統領の声を用いたロボコール(自動音声による電話)が、同州の有権者に投票に行かないように促していたことが明らかになった。
バイデン大統領は以前、人工知能の規制方法について、米国は英国に対して「努力の率先を期待する」と語っていた。
なお、テイラーのフェイク画像が拡散される数日前の22日、彼女がニューヨークに所有する自宅近くで、ストーカーの男が逮捕されたばかりだった。これまでにテイラーの自宅は、少なくとも12件の不法侵入に遭っている。
(TechinsightJapan編集部 寺前郁美)
テイラー・スウィフトがディープフェイク・ポルノサイトのターゲットとなり、AI生成されたテイラーの不適切なフェイク画像がSNSで拡散された。
画像はテイラーが極めて挑発的なポーズを取っているもので、X(旧Twitter)では「テイラー・スウィフトAI」がトレンド入りした。
ディープフェイクを検出するプラットフォームを提供している「Reality Defender」によると、AI生成されたテイラーが血まみれになる姿や、アメリカンフットボール関連などの画像が発見されたという。テイラーはNFL選手のトラヴィス・ケルシー(34)と交際中であるため、アメフト関連の画像が生成されたとみられる。
これに対し、テイラーのファンは「こんなものを拡散する奴は変態だ」「正気の沙汰ではない」「テイラーを守って!」などと憤りを表し、彼女に法的措置を検討するよう促す人々もいた。
テイラーに近い関係者は英メディア『Daily Mail Online』の取材に応じ、「彼女が法的措置を取るかどうかは検討中ですが、はっきりしていることが一つあります。これらのAIが生成した画像は、虐待的で攻撃的、搾取的であり、知識もなく行われたものです」と怒りを露わにした。
現地時間26日にはXが声明文を発表し、テイラーのフェイク画像を「積極的に削除している」と述べ、拡散に関与したアカウントに対して「適切な措置を取っている」と伝えた。
そして「さらなる違反があれば即座に対処し、コンテンツが削除されるように状況を注意深く監視しています」と付け加えた。
その後、Xでは「テイラー・スウィフト」という名前に加え、「テイラー・スウィフトAI」や「テイラーAI」という言葉が検索できなくなった。
画像の多くは公開と同時に削除されたが、ある写真は削除される前に4700万回閲覧されたと報告されている。
こういった事態を受け、米国の政治家達はディープフェイク画像の作成を犯罪とする新たな法律の制定を求め始めた。
ジョー・バイデン米大統領の報道官を務めるカリーヌ・ジャン=ピエール氏は、ソーシャルメディア企業に対し「自らのルールを執行する重要な役割を担っている」と伝えた。
米ニューハンプシャー州の予備選挙中だった23日には、人工知能(AI)で生成したとみられるバイデン大統領の声を用いたロボコール(自動音声による電話)が、同州の有権者に投票に行かないように促していたことが明らかになった。
バイデン大統領は以前、人工知能の規制方法について、米国は英国に対して「努力の率先を期待する」と語っていた。
なお、テイラーのフェイク画像が拡散される数日前の22日、彼女がニューヨークに所有する自宅近くで、ストーカーの男が逮捕されたばかりだった。これまでにテイラーの自宅は、少なくとも12件の不法侵入に遭っている。
(TechinsightJapan編集部 寺前郁美)