韓国、青少年のAI利用に「一律遮断より年齢別の安全対策」…海外では保護策強化

【08月22日 KOREA WAVE】生成AI（人工知能）が青少年の学習や日常生活に急速に浸透するなか、有害コンテンツへの接触や依存の深刻化を懸念する声も高まっている。一方、青少年によるAI利用そのものを遮断するのではなく、年齢や発達段階に応じた安全対策を整えるべきだとの指摘が出ている。海外の規制をそのまま導入するのではなく、韓国の青少年の利用実態を調査したうえで柔軟な保護基準を設ける必要があるという。

米国や欧州では、青少年のAI利用に伴うリスクを減らすための保護対策が本格化している。米カリフォルニア州は、未成年者が利用するAIコンパニオン型チャットボットに自殺や自傷への対応手順を設けるよう求めている。相手が人間ではなくAIであることを知らせ、3時間ごとに休憩を促す通知も提供しなければならない。

欧州連合（EU）もAI法を通じ、子どもなどの脆弱な層に特定の行動を促し、深刻な被害を与える恐れがあるAIを禁止している。

世界のAI企業も青少年保護を強化している。OpenAIはChatGPTのモデル行動基準「Model Spec」に13～17歳向けの「U18原則」を設けた。自傷・自殺、性的・恋愛的なロールプレー、危険な活動など高リスク分野では、より厳しい保護措置を適用する。利用者が18歳未満である可能性を判断し、青少年向けの利用環境に切り替える年齢予測機能も導入する。

Metaは、青少年がMeta AIと自殺や自傷について会話した場合、管理している保護者に知らせる機能を導入した。Googleも「Family Link」を使って保護者が子どものGemini利用を管理できるようにし、未成年者には別途コンテンツ保護対策を適用している。

韓国ではカカオが独自のAI安全モデル「Kanana Safeguard」を使い、性的コンテンツや児童の性的搾取、自殺・自傷などの有害な発言を検知している。未成年者に制限されるコンテンツなど、法的・政策的に注意が必要なリクエストを検知する別の安全モデルも運用している。

韓国のAI基本法は、高影響AI事業者にリスク管理や利用者保護などの義務を課しているが、青少年による生成AI利用について具体的な年齢別保護方法までは定めていない。

専門家は、だからといって海外の規制をそのまま導入したり、青少年のAI利用を一律に制限したりすることには慎重であるべきだと指摘する。AIが学習や業務の主要なツールになっているため、過度な制限は青少年のAI活用能力を低下させる可能性があるためだ。

高麗大学法科大学院のイ・ヒジョン教授は「青少年のAI利用には年齢別の保護対策が必要だが、海外の方式をそのまま適用するのではなく、韓国の環境や青少年に適しているかを研究することが先だ」と指摘した。

そのうえで「具体的な保護措置は法律で一律に定めるより、施行令やガイドライン、自主規制などを活用して柔軟に対応することが望ましい」と述べた。

(c)MONEYTODAY/KOREA WAVE/AFPBB News