韓国でも広がるAIウォーターマーク…生成コンテンツ判別へ、AnthropicがClaudeに導入

【08月21日 KOREA WAVE】人工知能（AI）を巡る法制度やルールが広がる中、AIが生成したコンテンツを判別するためのウォーターマーク導入が進んでいる。透明性を高め、信頼できるAI環境をつくるのが狙いだが、ウォーターマークを無効化する技術も登場しており、AIコンテンツ検出には限界があるとの指摘も出ている。

業界によると、Anthropicは最近、自社のAIモデル「Claude」が生成したコンテンツに、機械で判別できる透明性表示を導入すると明らかにした。特にAIが生成した文章にも目に見えないウォーターマークを適用することが注目されている。

人間が見ても分からない一方、専用の検出ツールを使えば、AIが生成したコンテンツである可能性を識別できる痕跡を残す仕組みだ。

具体的には、AIが単語を選ぶパターンや順序を基に、その文章がClaudeによって生成された確率を推定する。

Anthropicは今後、すべてのAIモデルに順次ウォーターマークを適用し、第三者が確認できる検出ツールも公開する。

これは2日に発効した欧州連合（EU）のAI法への対応でもある。同法第50条には、AI生成コンテンツへのウォーターマーク導入など、透明性に関する義務が盛り込まれている。

一方、ウォーターマークが特定の文字を挿入する方式で作動し、文章の品質や内容に影響するのではないかとの懸念も出た。

これに対しAnthropicは「Claudeの生成物の品質や内容に実質的な影響を与えない方式を採用している」と説明。「ウォーターマークのある文章とない文章を読者が見分けることはできず、文章に何かを追加するわけでも、隠し文字を入れるわけでもない」とした。

また、ウォーターマーク導入によって追加のトークンが必要になったり、費用が高くなったりすることもないと説明した。特定の個人や組織を追跡できる識別情報も含まれないという。

Googleもデジタルウォーターマーク技術「SynthID」を開発し、自社AIモデルGeminiが生成するコンテンツに適用している。OpenAIもAI生成コンテンツかどうかを把握できるよう、SynthIDウォーターマークやコンテンツ認証情報「C2PA」などの出所情報を利用しているとされる。

韓国でも2026年1月に施行された「AI基本法」で、生成AIの出力物にウォーターマークを表示する義務が定められている。

ただ、こうしたウォーターマークを回避する技術も登場している。Anthropicが導入を発表した翌日の12日には、オープンソース開発プラットフォームGitHubで、AI企業が埋め込んだ出所情報を削除する「ウォーターマークリムーバー」プロジェクトが公開された。

ウォーターマークの生成規則を逆解析してアルゴリズムを無効化したり、偽のウォーターマークを埋め込んだりする「ウォーターマーク・スティーリング」の研究も続いている。

企業側も、ウォーターマークだけでAIが書いた文章かどうかを完全に判断するのは難しいとしている。Anthropicは「ウォーターマークの効果には限界がある。文章の一部がClaudeによって作成された可能性がどの程度あるか、という問いに答えられるだけで、AIが書いたのか人間が書いたのかを断定することはできない」と説明した。

また、情報量の少ない短い文章では検出が十分に機能せず、文章が長くなるほどAIが関与したかどうかを判断しやすくなるとしている。

(c)news1/KOREA WAVE/AFPBB News