[KWレポート] AIチャットは誰を守るのか (2) …小学生も使えるアプリ、年齢確認なく性的な画像・文章

【09月16日 KOREA WAVE】AIキャラクターチャットアプリ「Crack」と「Zeta」を開くと、成人向けサイトの投稿を思わせるようなタイトルが画面に並んだ。2011年生まれの16歳と偽ってログインしても状況は変わらず、サムネイルには露出度の高い衣装を着たイラストも多く表示された。

両アプリは14歳以上のみ登録できるとしているが、年齢確認の手続きがなく、設定は自由に変更できる。Google PlayとApp Storeではいずれも12歳以上が対象となっており、小学生でもアプリをダウンロードして利用できる。

「Zeta」には成人向けの「アンリミテッドモード」があり、成人認証を済ませると性的な文章のほか、脅迫や性犯罪の場面を描写する内容も生成される。一方、未成年者向けの「セーフモード」でも、表現を遠回しに入力すると濃密なスキンシップを描いた文章が比較的容易に生成された。

コンテンツの設定そのものにも刺激の強いものがある。「Zeta」で男性キャラクターの人気1位となっている「チョン・イェウォン」は、10年来の女性の友人と同居するという設定だ。

「Crack」も成人認証を基に「セーフティーモード」と「アンセーフティーモード」を設けているが、セーフティーモードでも濃密なスキンシップを表現する文章が生成された。韓国の放送メディア通信委員会にAIチャットアプリの性的、刺激的な内容をめぐる苦情が相次いでいる背景の一つとなっている。

課金方式にも特徴がある。「Crack」は会話や画像生成のたびに有料アイテムを消費する従量課金型で、利用者が会話に没入するほど課金につながりやすい構造だ。「Zeta」は会話自体は無料で、広告の非表示や画像生成などに料金がかかる。

モバイル分析サービス「Mobile Index」によると、7月の月間利用者数は「Zeta」が153万人、「Crack」が56万人で、「Zeta」が約2.7倍多かった。一方、アプリ市場の売り上げ順位では「Crack」が上回った。

問題は、長時間の利用を促し課金につなげる仕組みを持ちながら、ゲームとは異なり国家機関による事前の年齢区分審査を受けていない点だ。ゲーム業界関係者は「AIキャラクターチャットアプリは利用者の余暇時間をめぐってゲームと競合しているが、規制が異なるため一方が不利にならざるを得ない」と指摘した。

(c)MONEYTODAY/KOREA WAVE/AFPBB News