韓国国会、AI生成物への「ウォーターマーク」義務化を審議…削除・改ざんに罰則案

【09月19日 KOREA WAVE】韓国国会が、人工知能（AI）で生成したコンテンツへのウォーターマーク表示を義務付け、削除や偽造、改ざんなどをした場合に制裁する法改正の議論に入った。

国会科学技術情報放送通信委員会は15日、情報通信放送メディア法案審査小委員会を開き、関連内容を盛り込んだAI基本法と情報通信網法の改正案を審査した。ただ、この日は争点の少ない法案を優先的に処理し、AI生成物の表示に関する法案は追加検討が必要として継続審査とした。

審査対象となったAI基本法改正案には、AI生成物であることを確認できるよう、コードや文字、記号などを使った目に見える、または目に見えないウォーターマークを表示する内容が盛り込まれた。表示を削除したり、偽造・改ざんしたりする行為も禁止する。

現行のAI基本法も、生成AIやAIシステムによる生成物についてAIで作成した事実を告知・表示するよう定めているが、具体的な表示方法は限定していない。改正案はウォーターマークの形式や削除・改ざんの禁止を法律でより具体化する狙いがある。

野党「国民の力」のキム・デシク議員が提出した案では、違反した場合、2年以下の懲役または2000万ウォン（約210万円）以下の罰金を科す。「国民の力」のイ・サンフィ議員案は、AI生成物の表示を削除、偽造、改ざんした場合、3000万ウォン（約320万円）以下の過料を科す内容となっている。

法案によってウォーターマークの表示方法や違反行為への制裁に違いがあり、具体的な基準は今後の審査で調整される見通しだ。

AI生成物がインターネット上で流通する過程で、ウォーターマークが削除されたり消失したりすることを防ぐための情報通信網法改正案も審査されたが、こちらも継続審査となった。

小委員会では、プラットフォーム事業者にウォーターマークの維持や削除防止に向けた技術的・管理上の措置を義務付けた場合、企業の負担が過大になる可能性を巡って意見が分かれたという。

与党「共に民主党」のチョ・インチョル議員案は、AI生成物を制作・編集してインターネット上で流通させる人にAI生成の表示を義務付け、表示の削除や偽造、改ざんを禁止する内容を盛り込んだ。プラットフォームにも表示の削除を防ぐための技術的・管理上の措置を求める。

「国民の力」のパク・チュングォン議員案には、一定規模以上の情報通信サービス事業者にAI生成の表示を支援させるとともに、表示の削除や偽造、改ざんを防ぐ技術的・管理上の措置を求める内容が盛り込まれた。

今後は、AI生成物の制作者だけでなく、流通させるプラットフォームにも管理責任を負わせるか、責任を課す場合にどこまでを対象とするかが主な論点となる見通しだ。

今回の議論は生成AIの急速な普及で、実際のコンテンツとAI生成物を見分けることが難しくなっているとの問題意識が背景にある。ディープフェイクを利用した性的搾取物や金融詐欺、虚偽情報などへの悪用も懸念されている。

韓国政府は6月、ディープフェイクによる性的搾取物やAIを利用した金融詐欺、虚偽・不当広告などに対応するため、省庁横断の協議体を発足させた。

この日の小委員会では関連法案の採決には至らなかった。AI生成物の表示方法や削除・改ざんへの制裁、プラットフォームの管理責任をどこまで法制化するかについて、今後も審査を続ける。

(c)news1/KOREA WAVE/AFPBB News