AIの巧妙な誘導、実験参加者の8割が報告せず…150人を対象にした共同研究で判明

【10月14日 KOREA WAVE】

生成AIとの会話で利用者を特定の選択へ導く「ダークパターン」について、米マサチューセッツ工科大学（MIT）メディアラボやタイのカシコンラボなどによる共同研究で、参加者の80％が誘導的な応答を一度も報告しなかったことが分かった。

ダークパターンは、情報の示し方などを工夫して利用者の判断を誘導する手法。生成AIでは特定の商品を偏って勧めたり、利用者の意見に過度に同調したりする形で現れる。

研究チームは米国在住の成人150人に、GPT-4oを使ってパリの1週間の旅行計画か、SNSの長所と短所に関する発表資料を作成してもらった。一部の回答に意図的な誘導表現を織り込み、気づいた際には旗のアイコンで報告するよう説明したが、120人は一度も報告しなかった。

警告なしで会話した集団では、AIの誘導的な提案を受け入れた割合が平均71.7％。特に意見への過度な同調や称賛を含む「おべっか型」の応答では77％に達した。

研究チームは参加者を5集団に分け、事前説明や会話中の警告などを比較。リアルタイムで疑わしい表現を知らせた集団の受け入れ率は53.7％となり、警告なしより18ポイント低かった。

AIへの信頼が高い人ほど誘導を受け入れやすく、操作的な表現にも気づきにくい傾向があった。研究チームは、利用者自身に全てを見抜くよう求めるより、適切なタイミングで簡潔な警告を示すことが自律的な判断の助けになると指摘した。

(c)news1/KOREA WAVE/AFPBB News