■「世論を形成」

ここ数か月、米メディアは「人工妊娠中絶」や「イラン紛争」といった政治問題についてコメントする、AIで生成された動画を数百本確認している。これらの動画には、兵士や入国審査官のような姿をした、若い男女のトランプ氏支持者が登場する。

パデュー大学の研究室「GRAIL（ガバナンス＆責任あるAI研究室）」も、ティックトックやインスタグラム、フェイスブックなどでこのようなアカウントを多数追跡している。

AIの能力とその危険性に焦点を当てる非営利団体「CivAI」のアンドリュー・ユーン氏は、「中間選挙前の生成AIインフルエンサーの増加は、世論を形成することを目的に、今後は高度にターゲティングされたAIコンテンツが使用される可能性があることを示唆している」と話す。

こうしたコンテンツは「特に技術的に優れた運営者によって作成された場合、検出がますます困難になっている」とユーンは指摘する。

また今後、AI技術がさらに洗練されることで「生成されたインフルエンサー」を使ったオンラインでの世論操作は「さらにパーソナライズされ、制御が困難になる可能性がある」とも付け加えた。

インスタグラムには、トランプ氏と共にポーズをとるリアルな女性兵士の動画が投稿されていた。これもAIで生成された動画だったが、アカウントが停止される直前のフォロワー数は約100万人に上っていた。

この生成AIの女性兵士について、シリコンバレーの投資家アンドリーセン・ホロウィッツ氏のAI担当パートナーであるジャスティン・ムーア氏は、「明らかにAIで生成された女性インフルエンサーだが、これをフォローしている男性の数が多く、本当に驚いている」と述べた。(c)AFP/Anuj CHOPRA