イ・ジェミョン（李在明）大統領が19日にSNSへ投稿した文章を、AI判定プログラム「Pangram 4」で分析した結果(c)NEWSIS
イ・ジェミョン（李在明）大統領が19日にSNSへ投稿した文章を、AI判定プログラム「Pangram 4」で分析した結果(c)NEWSIS

【08月24日 KOREA WAVE】「100％人間が書いた文章です」。韓国のイ・ジェミョン（李在明）大統領が19日にSNSへ投稿した「ペースメーカーとしての役割を果たします」という文章を、人工知能（AI）判定プログラム「パングラム4（Pangram 4）」で分析した結果だ。

生成人工知能（AI）の普及に伴い、人間による推敲を経ていない低品質なAI文章（AIスロップ）がネット上に溢れるなか、人間が書いた文章かAIが作成したかを判別する技術に注目が集まっている。一方で、判定ミスによる冤罪の懸念や技術的な限界も指摘されている。

米スタートアップのパングラム（Pangram）が提供する最新判別モデル「パングラム4」は、人間とAIの文章構成の違いを統計的に分析し、「人間作成」「AI支援」「AI生成」の比率を算出する。同社は高い精度をアピールするものの、短文や定型文書では誤認のリスクがあり、「盗作や不正行為を断定する唯一の証拠にしてはならない」と呼びかけている。

一方、文章の「文体」からAI利用を推測する手法の限界を受け、AI開発側が生成時に「電子透かし（ウォーターマーク）」を埋め込む動きも広がっている。米AI企業アンソロピックは、欧州連合（EU）のAI規制法（生成コンテンツの表示義務）に対応するため、AIモデル「クロード」が作成した文章に統計的な電子透かしを適用する方針を発表した。

しかし、わずかな文法修正だけでは透かしが残らなかったり、逆に単なる推敲ツールとして使っただけでも「AI作成」と判定されてしまったりするなど、依然として課題は多い。

パングラムのマックス・スフェロ最高経営責任者（CEO）は「AIを活用して文章を書く人々への魔女狩りにつながってはならない」と警鐘を鳴らしており、AI利用が疑われる場合でも、下書きや変更履歴の確認など人間による慎重な見極めが求められている。

(c)NEWSIS/KOREA WAVE/AFPBB News