■10代向けの専用コンパニオンの導入も…

Character.AIは昨年10月、ユーザーだった少年の母親から提訴されている。この母親は、14歳の息子が自殺したのは、AIコンパニオンが明確に思いとどまらせなかったためだと主張している。同社は12月、10代向けの専用コンパニオンの導入を含む一連の対策を発表した。

しかし、コモンセンスのAI担当ロビー・トーニー氏は、これらの保護策について「導入後の検証では、対策は表面的なものにとどまっていた」と指摘した。

その一方で、既存の生成AIモデルの中には、精神疾患の兆候を検出するツールを備えたものや、会話が危険な内容に逸脱しないよう制限されているものもあると補足した。

なお、今回の調査においてコモンセンスは、検証対象としたAIコンパニオンと、ChatGPTやグーグルのGemini（ジェミニ）など、より一般的なチャットボットは区別して扱っている。後者は、AIコンパニオンのようなパーソナルなやりとりを提供するようには設計されていないという。(c)AFP