韓国で「ディープフェイク」による性的な偽動画が社会問題に 名門・ソウル大学出身の男らを摘発 対策は?
TBS NEWS DIG Powered by JNN / 2024年7月11日 18時19分
韓国では、AI=人工知能を使ってきわめて精巧な偽の映像や音声を作る技術「ディープフェイク」による性的な偽動画が、深刻な社会問題となっています。
今年5月、韓国社会に衝撃が走りました。
韓国 YTNのニュース
「ソウル大学の後輩など、女性たちの写真を合成してわいせつ動画を作り、流した疑惑で容疑者が捕まりました」
AIを使って性的な偽動画を作り、通信アプリ「テレグラム」で公開したとして韓国警察が摘発したのは、韓国屈指の名門・ソウル大学出身の男ら5人でした。
男らはソウル大学の後輩など、知人女性たちがSNSに上げていた写真や卒業写真などとわいせつな動画を「ディープフェイク」を使って合成して、「テレグラム」で公開。被害を受けた女性は、およそ60人にのぼるとみられています。
韓国ではこうしたネット上の性的な偽動画について監視を行う「放送通信審議委員会」が、サイト側へ削除するよう要請しています。
その件数は2020年には500件弱でしたが、毎年2倍に近いスピードで増え、去年は7000件を超えました。
ソウルの若者たちは。
「(SNSでは)非公開のアカウントの方をよく利用しています」
「アカウントを非公開にして、親しい人だけ受け入れています」
SNSに投稿した写真が悪用されることについて、不安を感じていました。
こうしたなか、行政が取り組んでいるのが。
「デジタル性犯罪AI監視システム」
AIを活用したモニタリングです。
ソウル市は2年前、ネット上の性被害に対応する支援センターを開設。問題がある動画を探し出し、サイトの運営側に削除を要請しています。
ソウルデジタル性犯罪安心支援センター長 ムン・ギヒョンさん
「できるだけ流出しないようにすることが非常に重要です。私たちも被害の申告があった場合には、できるだけ早く支援する努力をしています」
当初は人力頼みの作業でしたが、去年からは担当者が不在の夜間にもAIで被害動画を発見できるようにしました。
さらに、先月からは被害届けが出されにくい児童や青少年の動画もAIで見つけ出すシステムを導入しました。
システム開発者 キム・ジュンチョルさん
「(児童や青少年と)関連性の高い要素を探知して、子どもが被害に遭った動画なのか探し出す技法を使いました」
ソウル市は動画の発見から削除の要請までAIによって自動で行うシステムの開発も進めていて、被害の拡大を抑え込みたいとしています。
この記事に関連するニュース
-
米軍関係者による性犯罪、沖縄以外の県警も報道機関に広報せず 2021年以降 主要基地所在地で
沖縄タイムス+プラス / 2024年7月14日 5時25分
-
韓国・小学生7人にセクハラ、20代担任教師摘発
KOREA WAVE / 2024年7月12日 19時0分
-
韓国の研究機関、科学捜査の技術開発でコラボ…先端映像分析でディープフェイク摘発へ
KOREA WAVE / 2024年7月11日 8時0分
-
YouTube、自分に似た生成AIコンテンツの削除要請が可能に
ITmedia NEWS / 2024年7月2日 9時37分
-
韓国・男子中学生11人にセクハラ…30代の男性教師に懲役10年判決
KOREA WAVE / 2024年6月20日 19時30分
ランキング
-
1タイ・バンコクの高級ホテルで6人死亡 毒物を摂取との情報も
TBS NEWS DIG Powered by JNN / 2024年7月16日 23時32分
-
2トランプ氏登場で初日から最高潮の共和党大会 「顔が疲れている」と心配の声も
産経ニュース / 2024年7月16日 21時33分
-
3フィリピンで日本人4人拘束 日本から逮捕状 カンボジア拠点の詐欺グループか
TBS NEWS DIG Powered by JNN / 2024年7月17日 11時23分
-
4オマーンでシーア派モスク襲撃6人死亡、「イスラム国」が犯行声明
ロイター / 2024年7月17日 9時45分
-
5血まみれで逃げる患者…「一線超えた」ウクライナの小児病院医師、露のミサイル攻撃を非難
産経ニュース / 2024年7月17日 15時32分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください