【2月6日 AFP】人工知能（AI）ツールによって、世界の指導者たちと少女らへの性的人身取引の罪で起訴され勾留中に自殺した富豪ジェフリー・エプスタイン元被告が一緒に写っているように見える画像を容易に捏造（ねつぞう）できることが、5日に発表された研究で示された。

エプスタイン元被告と著名な政治家を虚偽に結びつける改ざん写真が急増しており、AFPのファクトチェッカーによると、ソーシャルメディア利用者は、ニューヨークのゾーラン・マムダニ市長やその母親で映画監督のミーラー・ナーイル氏がエプスタイン元被告と交流しているように見せかけたAI生成画像を拡散している。

誤情報監視団体ニューズガードは、三つの主要な画像生成AIに対し、米国のドナルド・トランプ大統領、イスラエルのベンヤミン・ネタニヤフ首相、フランスのエマニュエル・マクロン大統領ら5人の政治家と、エプスタイン元被告が一緒に写っている写真を生成するよう指示した。

米実業家イーロン・マスク氏が率いるxAIが開発した「Grok Imagine」は、5人全員との「説得力のある偽画像」を数秒で生成したという。その中には、若い頃のトランプ氏とエプスタイン元被告が少女たちに囲まれているように見える、偽物だが非常にリアルな画像も含まれていた。

グーグルの「Gemini」はトランプ氏とエプスタイン元被告の画像生成は拒否したものの、ネタニヤフ氏、マクロン氏、ウクライナのウォロディミル・ゼレンスキー大統領、英国のキア・スターマー首相の4人とのリアルな写真を生成した。

同様の画像生成を促したところ、OpenAIの「ChatGPT」は政治家とエプスタイン元被告が一緒に写っている画像の生成を拒否した。

ニューズガードは、「この調査結果は、悪意ある人物がAI画像生成ツールを使って、もっともらしく見える偽画像を簡単に作り出し、拡散させられること、そして偽画像があまりに日常的になったため、本物とAI生成画像を見分けることが難しくなっている現状を示している」と述べた。(c)AFP