[KWレポート] AIチャットは誰を守るのか (1) …相次ぐ「性的表現の苦情」、政府の順守調査は「0件」

【09月16日 KOREA WAVE】AIで作られたキャラクターと会話する「AIキャラクターチャットアプリ」で性的なコンテンツへの苦情が相次いでいる。だが、韓国政府が関連ガイドラインの順守状況を調査した例が一度もない。青少年保護責任者の指定についても、ようやく検討段階に入った、という状況だ。

韓国の放送メディア通信委員会は8月21日、MONEYTODAYの取材に「AIキャラクターチャットアプリの性的、刺激的なコンテンツに関する苦情は継続して寄せられている」とする一方、「『生成AI利用者保護ガイドライン』の順守状況を別途調査したことはない」と明らかにした。

AIキャラクターチャットアプリは、AIで実現したキャラクターと会話できるサービスだ。Wrtn Technologiesの「Crack」、Scatter Labの「Zeta」などが代表例で、一人暮らしの部屋に遊びに来る女友達や、自分を嫌う不良少女など、刺激の強い設定のキャラクターと会話できる。

韓国政府は2025年3月から「生成AIサービス利用者保護ガイドライン」を施行している。利用者の人格権保護、AI生成物であることの告知、偏見や差別のフィルタリング、入力データの収集・活用管理、責任範囲とリスク管理体制の整備、健全な流通・配布への努力などが柱となっている。

しかし、多くのAIチャットアプリでは性差別のほか、セクハラ、脅迫、性的暴行などの場面が容易に表示されるケースがある。成人認証がないか、最近になって導入されたサービスもあり、年齢確認の仕組みも不十分だという。

政府が実態調査に踏み込めていない背景には、ガイドラインに法的拘束力がないことがある。放送メディア通信委員会は「自主的な措置を勧告する水準にとどまるため、順守状況を調査してこなかった」と説明した。AIチャットアプリは複数の関連法の対象となり得るものの、明確な規制につながっていないのが実情だ。

青少年保護策も十分とは言い難い。「Zeta」と「Crack」は青少年が有害情報にさらされないよう努めるとの方針を掲げているが、内容は原則的な説明にとどまっている。課金についても総額の上限は設けられていない。

放送メディア通信委員会は現在、AIチャットアプリが情報通信網法上の「青少年保護責任者指定義務事業者」に当たるかを検討している。指定された場合、性的な会話が可能か、年齢確認手続きが適切かなど、青少年保護業務の実態を点検する方針だ。

一方、AIチャットアプリの利用は急速に拡大している。17日時点で「Crack」と「Zeta」はGoogle Playの非ゲームアプリ売上ランキングでそれぞれ17位、19位に入った。アプリ分析サービスのWiseapp・Retailによると、7月の「Zeta」の総利用回数は20億800万回で、ChatGPTの18億1700万回を上回り、AIチャットボットアプリで1位となった。「Crack」は1億2200万回で4位だった。

(c)MONEYTODAY/KOREA WAVE/AFPBB News