【1月23日 AFP】米実業家イーロン・マスク氏が率いる人工知能（AI）新興企業「xAI」の対話型生成AI「Grok」が、わずか10日ほどで子どもや女性の性的な画像を推定300万枚生成したと、22日に監視団体が発表した。

X（旧ツイッター）に統合された「Grok」の編集機能が最近導入されたことで、ユーザーは「ビキニ姿にして」「服を脱がせて」などの簡単なテキスト入力だけで、実在の人物の画像を改変できるようになった。

わいせつなディープフェイク画像がオンライン上にあふれ、規制当局や被害者から強い非難が巻き起こっており、複数の国がGrokを禁止する事態となっている。

オンライン上の有害な偽情報の影響を調査する非営利監視団体のデジタルヘイト対策センター（CCDH）は、「Xに導入された新たな画像編集機能によって、AIツールのGrokは約300万枚の性的画像を生成したと推定され、その中には子どもを描写しているように見えるものが約2万3000枚含まれている」と述べた

報告書によると、Grokは11日間で約300万件の画像を生成したと推定されており、1分あたりでは約190件生成されたことになる。写っている人物の同意なしに作成された画像がどれほどあったのかについて、報告書は言及していない。

Grokによって性的な加工をされた画像に含まれていた著名人には、俳優のセレーナ・ゴメスさんや歌手のテイラー・スウィフトさん、ニッキー・ミナージュさん、スウェーデンのエバ・ブッシュ副首相、カマラ・ハリス元米副大統領らがいた。

CCDHの最高責任者であるイムラン・アーメド氏は、「データは明白だ。イーロン・マスクのGrokは性的虐待コンテンツを生み出す工場だ」と話している。(c)AFP