■「インターネット全体を占拠」

アモデイ氏は、ハギング・フェイスでの事案を単発の出来事として片付けるべきではないと注意を促した。

「エージェント群は実質的に制御不能な集団として機能し、指示されていない無関係なターゲットにサイバー攻撃を仕掛けた」と説明した上で、「AIの能力向上速度が加速していることを踏まえると、6〜12か月後にはこのような集合体がインターネット全体を占拠できるようになる恐れがある」とし、数百億〜数千億ドル（数兆〜数十兆円）規模の被害をもたらすおそれがあると付け加えた。

また、アンソロピックでは、安全基準の遵守を検証する「第三者評価者」のチームに「従業員と同等のアクセス権」を付与することを明らかにし、すべての企業に対しても同様の対応をとるよう呼びかけた。

この提案に対し、アルトマン氏も同様にコミットすると述べ、「近いうちに詳細を共有する」と付け加えた。

アモデイ氏はさらに、企業間で協力して共通の安全基準を策定することも提案。この問題に関する政府間協力を支持すると表明した。

米政府は8月初旬、先端AIモデルの公開前に自主的な安全審査プロセスを導入したが、その制度の具体的な枠組みについては依然として不透明なままとなっている。(c)AFP