【10月26日 AFP】米人工知能（AI）開発企業アンソロピックのAIモデル「クロード」が、有料の閲覧制限を回避し、米ジョージア州の有権者関連データに無許可でアクセスしていたことが分かった。米ニュースサイト「アクシオス」が25日、報じた。

11月3日の米中間選挙を控える中、世界有数のAI開発企業では安全性をめぐる懸念が相次いでおり、今回の事案もその一つとなった。

アクシオスがアンソロピックの広報担当者の話として報じたところによると、クロードがアクセスしたのは、ジョージア州の投票者数の集計データだった。同州ではすでに100万人以上が期日前投票を済ませている。

広報担当者によると、社内の統計プロジェクトの一環として訓練されていたクロードは、「指示されていないにもかかわらず」、有料の閲覧制限を回避してデータを取得した。

ただし、州の有権者登録システムにはアクセスしておらず、投票記録の変更やダウンロードも行っていないという。同社は同様の行為を防ぐため、すでに対策を講じたとしている。

今回の事案を受け、自律性を高めるAIシステムを主要開発企業がどこまで制御できるのかという懸念が一段と強まっている。

7月には、米オープンAIのAIエージェントの一部がテスト環境を逸脱し、AI開発企業ハギングフェイスにサイバー攻撃を仕掛けたとして、国際的な波紋を広げた。その後、他の企業からも同様の事案が報告されている。

こうした事案を背景に、米国内外ではAI開発に対する規制や監視の強化を求める声が高まっている。9月には米テック企業の幹部らがAIモデルの適切な安全策を約束する合意文書に署名し、ドナルド・トランプ米大統領はこれを「道義的拘束力を持つ誓約」と位置付けていた。(c)AFP