【7月29日 AFP】米新興企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）を含む、人工知能（AI）開発を手掛ける企業に所属する1000人以上が28日、最先端AIモデルのリリース速度を落とすよう米政府に求める請願書に署名した。

「Pacing the Frontier（最先端のペース調整）」と題されたこの請願書は、「自動化されたAI開発の最前線における意図的な速度調整のため、必要となる技術的なツールや統制のためのルールづくりに向けた国際的な取り組みを米政府が支援すること』を求めている。

オープンAIのサム・アルトマンCEOは、この請願書に署名しなかった。同氏は28日に公開されたインタビューの中で、AIモデル開発者は急速な進歩に対して自主的にブレーキをかけ、社会が対応できるよう猶予を与える必要性があると持論を述べている。

署名者では、オープンAI研究チームのトップやディープマインドの戦略担当者、メタのAI部門チーフサイエンティストなどが名を連ねた。

請願書には「世界をリードするAI各社は、AI研究の自動化が目前に迫っていると考えている。これがAIの進歩をどれほど加速させるかを正確に予測するのは困難だが、その結果生まれるシステムを私たちが理解・制御する能力を超えて、機能の開発が急速に加速する現実的なリスクが存在する」と記されている。

「ChatGPT」を手掛けるオープンAIでは最近、二つのモデルが自主的なサイバー攻撃を仕掛け、セキュリティプロトコルを突破する事態が発生していた。

オープンAIが先週明かしたところによると、同社のAIモデルが制限された環境（サンドボックス）から脱出し、インターネットに接続して開発者がコードの保存や共有に使うサイト「ハギングフェイス（Hugging Face）」に侵入したとされる。

アルトマン氏は28日に公開されたポッドキャスト番組「Invest Like the Best」で、「これは私自身、非常に生々しく（肌で）感じた最初のセキュリティ上の脅威だ」と語り、同様の反応を示す人が「もっと多くないことに少々驚いている」としていた。