韓国「AI基本法」年内成立の可能性高まる…業界「規制の実効性」に課題提起

11月26日、国会で開かれた科学技術情報放送通信委員会の第17回全体会議(c)news1

【KOREA WAVE】韓国で、人工知能産業を支援しつつ規制を強化することを目的とした「AI基本法」が、制定まで残りわずか2つの審査を残している。この法案が年内に通過する可能性が高まるなか、業界からは適切な規制の必要性が認められる一方で、法案の柱であるAIウォーターマーク（透かし）義務化の実効性向上を求める声が上がっている。

特にすべての企業がAIウォーターマークを挿入し、生成物の制作者を追跡するには技術的な限界があるほか、目に見えない形式でのウォーターマークが許可される「創作物の基準」が曖昧だとの指摘がある。

国会の発表によると、「AI基本法（人工知能の発展と信頼基盤の構築に関する基本法案）」は12月中に法制司法委員会および本会議で審議される。与野党は12月4日と10日に本会議を開催することで合意しており、法案は順調に可決される見通しだ。法案が年内に成立した場合、施行は2025年末頃になるとみられている。

AI基本法の主な内容には、生成物へのウォーターマーク義務化▽高影響AI（人命や安全、基本的人権に重大な影響を及ぼす人工知能）の定義と事業者責任の強化▽国内代理人の指定▽政府と民間委員会の設置▽罰則としての過料導入――などが含まれる。

特に生成型AIによる合成写真や動画にはすべてウォーターマークを付けることが求められ、AIを用いた偽造画像（ディープフェイク）の生成物には視認可能なウォーターマークの挿入が義務化される。ただし、芸術や創作表現物においては目に見えない形式のウォーターマークも許可されている。

AIウォーターマーク技術を開発する企業の関係者は「AI合成物の制作者を追跡するには合成に使用されたアルゴリズムをすべて特定する必要がある。だが、個別企業がその技術を完全に判別することは難しい」と指摘している。政府がアルゴリズム解析システムを支援するなどの補完措置が必要だという。

また、ソウル大学AI研究所のチャン・ビョンタク所長は「目に見えないウォーターマークが許可される創作物の基準が曖昧であり、法案の趣旨を完全に活かせるかは疑問だ」との懸念を示した。

法案には高影響AIの定義や事業者責任も明記されている。この概念は従来「高リスクAI」として規定されていたものを改称したもので、否定的なイメージを避けつつ、責任ある利用を促す狙いがある。高影響AIを提供する事業者には、利用者にそれを事前に通知する義務が課される。

さらに、AI関連の海外企業には国内代理人の指定が義務づけられ、安全性と信頼性の確保が求められる。これらの義務に違反した場合や是正命令に従わなかった場合には、最大3000万ウォン（約330万円）の過料が科される。

中央大学AI学科のイ・ジェソン教授は「近年、ディープフェイクを用いた性犯罪が発生しており、AI規制の必要性はますます高まっている。企業は収益を求めて海外市場に進出するため、欧州連合のAI規制法に似た高影響AI規制によって二重負担を避ける効果も期待できる」と指摘した。

一方、淑明女子大学グローバル融合学部のムン・ヒョンナム教授は「規制は必要だが、技術発展を阻害する恐れもある」とし、産業育成策を具体的に策定することで業界の懸念を和らげるべきだと提言した。

産業振興のための条項も盛り込まれている。AIに関連する主要政策については大統領直属の国家人工知能委員会を設置して審議・議決する。また、研究者や開発者が所属する民間主導の人工知能倫理委員会は、AI技術の研究・活用において倫理原則の順守状況を確認する役割を担う。

(c)news1/KOREA WAVE/AFPBB News