【9月14日 AFP】目まぐるしいスピードで進む人工知能（AI）開発のペースをめぐり、主要企業のトップらが減速を呼びかけ始めている。しかし、業界内での激しい競争や米政府による難色、さらには地政学的要因から、実際に減速させることは容易ではない。

■AI界のリーダーらが提案する内容とは？

アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、AIによって生じうる潜在的なリスクをより明確に理解するため、協調してAI開発のペースを落とすよう呼びかけた。

この提案に対し、オープンAIのサム・アルトマンCEO、イーロン・マスク氏、グーグル・ディープマインドのデミス・ハサビスCEOらも公に支持を表明した。

■なぜ今なのか？

ここ数か月、オープンAIとアンソロピックは、AIモデルが制限された環境から自ら脱出し、インターネットにアクセスしてウェブサイトやプラットフォームを攻撃した事案を複数報告している。

これらのAIモデルは、相互に連携して階層構造を構築し、不正行為を行い、そして自らの行動の痕跡を消去する能力を明らかにした。

こうした中、オープンAIからアンソロピックに移籍したAI研究者のジェイコブ・コクソン氏（27）は8日、自己改善型人工超知能（ASI）の開発競争をめぐり、両企業のセキュリティ基準が緩く、「人々の命でギャンブルをしている」と公に批判した。

■自発的な減速は起こり得るのか？

主要開発企業間の競争は極めて激しく、投資の規模は数百億ドル（数兆円）規模に上る。そのため、単独で開発スピードを緩め、あえてリスクにさらされることを進んで行う企業は存在しない。

それでも、アモデイ氏は中国を除くライバル企業との協調には前向きな姿勢を示している。

開発スピードの減速を目指し、企業間で協議を行う可能性についてAFPは各社に質問したが、現時点で、アンソロピック、オープンAI、グーグルからの回答はまだない。

アンソロピックとオープンAIが採用を公言した唯一の具体措置は、AIの安全性に関する社内業務を検証するため、独立した監察官を導入するというものだ。