[KWレポート] AIチャットは誰を守るのか (4) …AIチャット2種、12歳以上向けでも性的会話

【09月16日 KOREA WAVE】韓国のAIキャラクターチャットアプリ「クラック」と「ゼタ」が、グーグルプレイとアップルのアップストアでいずれも「12歳以上」向けとして提供されている。一方、未成年者向けの利用環境でも性的な内容を含む会話が生成される場合があり、AIチャットアプリの年齢区分を巡る制度上の空白が指摘されている。

両アプリは14歳以上を登録条件としているが、本人確認の仕組みがなく、利用者が年齢を任意に入力できる。ゼタには成人認証を受けた利用者向けの「アンリミテッドモード」が設けられているものの、未成年者向けの「セーフモード」でも、身体に触れる場面など性的な内容を含む会話に誘導できるという。クラックには成人向けモードを分離する仕組み自体がない。

ゲームの場合、ゲーム物管理委員会や自主的に等級を分類する事業者が発売前に年齢区分を決める。一方、クラックやゼタのようにゲームに分類されないアプリは、政府機関ではなくグーグルやアップルなどのアプリ市場が年齢区分を設定する。

グーグルプレイでは、開発者が暴力性や性的表現、射幸性などに関する質問に回答し、その内容を基に国際等級分類連合（IARC）の仕組みに沿って地域別の年齢区分が付与される。アップルでは、算定された区分より高い年齢区分を開発者が選ぶこともできる。

ただ、AIチャットは映画やウェブ漫画のように内容が固定されていない。利用者の入力や会話の流れによって回答が変わり、同じキャラクターでも日常的な会話から性的、暴力的な場面に発展することがある。利用者自身がAIキャラクターや設定を制作して公開する場合もあり、モデルや安全対策の更新によって生成内容の程度が変化する可能性もある。

公開されているアプリ市場の規定では、どのような会話を基準に年齢区分を判断するかや、AIモデルの変更をコンテンツ変更とみなして再審査するかといったAIチャットアプリ独自の基準は確認できない。

韓国の放送メディア通信委員会は、ゲーム以外のアプリの年齢区分はアプリ市場が自主的に分類していると説明した。実際のサービス内容に比べて年齢区分が低いと利用者が判断した場合も、政府ではなくグーグルやアップルに申告する必要がある。

違法情報や青少年に有害な情報については、放送メディア通信審議委員会への申告が可能で、AIチャットアプリも審議を経て青少年有害媒体物に指定される可能性がある。ただ、問題の発生後に申告や審議が始まる事後的な手続きであり、アプリ公開時に政府機関が生成可能な会話の内容を確認したり、「12歳以上」という区分が適切かを検証したりする仕組みはない。

(c)MONEYTODAY/KOREA WAVE/AFPBB News