【10月29日 AFP】対話型の生成人工知能（AI）「チャットGPT」を手がける米オープンAIのデータは、チャットGPT利用者100万人以上が自殺に関心を示していることを示唆している。

27日に公開されたブログ記事で、オープンAIはチャットGPTユーザーの約0.15%が「自殺の計画や意図を明示的に示唆する会話」をしていると推定した。チャットGPTの週間アクティブユーザー数は8億人以上に上るため、0.15％は約120万人に相当する。

同社はまた、週間アクティブユーザー8億人のうち約0.07%が精神病や躁病に関連する精神的健康上の緊急事態の兆候を示していると推定しており、これは60万人弱に相当する。

この問題は、米カリフォルニア州の10代の若者アダム・レインさん今年、自殺したことで表面化した。レインさんの両親は、チャットGPTが自殺方法に関する具体的なアドバイスを提供したとして訴訟を起こした。

これを受けオープンAIは、チャットGPTのペアレンタルコントロールを強化し、危機ホットラインへのアクセス拡大、センシティブな会話をより安全なモデルへの自動リダイレクト、長時間のセッション中に休憩を取るようユーザーに促す穏やかなリマインダーなど、ガードレールを導入した。

オープンAIは、チャットGPTをアップデートし、精神的健康上の緊急事態に陥っているユーザーをより適切に認識し対応できるようにしたほか、170人以上のメンタルヘルス専門家と協力して、問題のある応答を大幅に削減しているという。(c)AFP