米カリフォルニア州、AIエージェントの暴走めぐりオープンAI提訴
このニュースをシェア
【11月17日 AFP】米カリフォルニア州は16日、人工知能(AI)開発企業オープンAIのAIエージェントが想定外の動作をし、AIプラットフォーム「ハギングフェイス」にサイバー攻撃を仕掛けた問題をめぐり、同社が公衆の安全を脅かしたとして提訴した。
サンフランシスコの州裁判所に提出した訴状でロブ・ボンタ州司法長官は、オープンAIが公衆を適切に保護するために必要な安全対策や監視体制が整っていないことを認識しながら、実験的な技術の開発・試験を進めていたと主張している。
訴状で問題視されたのは、2026年7月にオープンAIの実験段階のモデルが、外部のインターネットにアクセスし、ハギングフェイスにサイバー攻撃を仕掛けた事案だ。
ボンタ氏は声明で「ハギングフェイスへの攻撃は、安全性や説明責任よりも成長と急速なモデル開発を優先するオープンAIの社内文化がもたらした予見可能な結果であり、これはAIエージェントの制御喪失に関連して確認されている80件の事案の一つにすぎない」と述べた。
さらに、「カリフォルニア州ではイノベーションを重視しているが、製品や企業の種類にかかわらず、法律を順守するイノベーションを求めている」と強調した。
訴状では、「不十分な安全対策、公衆の安全の軽視、適切な監督を欠いた危険な製品の意図的な試験、消費者や一般市民に対する誤解を招く説明」により、オープンAIが州法に違反したと指摘している。
一方、オープンAIの広報担当者ドリュー・プサテリ氏は、「モデルが開発者の意図に反する動作をした問題を理解し、対処するため、同社は広範かつ透明性の高い取り組みを進めてきた」と説明した。
「今回の訴訟は、主要なAI研究機関のすべてが認識している課題について、オープンAIだけを標的にしているように見える」と付け加えた。(c)AFP