【9月10日 AFP】米オープンAIからアンソロピックに転職した人工知能(AI)研究者ジェイコブ・コクソン氏(27)が、業界を去ることを決断した。同氏は、両社が自己改善型の人工超知能(ASI)の開発競争で「人類の命運を賭けた危険な賭けをしている」と非難している。

コクソン氏は過去3年間、AIの事前学習に携わった。以前はオープンAIに勤務していたが、今年、AIに対してより慎重なアプローチを取っているとみなしたアンソロピックに転職した。

コクソン氏は8日、X(旧ツイッター)への投稿で、「両社共に責任ある行動を取っていない。彼らは自己改善型の人工超知能の開発に突き進み、人類の命運を賭けた危険な賭けをしている」と主張。

「AIを構築している当事者たちは、AIが2020年代末までに人類を滅ぼす可能性があると本気で考えている」と付け加えた。

アンソロピックの安全性担当幹部エバン・ヒュービンガー氏も、Xでコクソン氏の主張を支持。

「われわれはAIが人類を滅亡させかねないと本気で考えている!」として、AIが今後10年以内に人類を滅ぼす可能性は10%を超えるとの認識を示した。

ヒュービンガー氏は、アンソロピックが「最善を尽くしている」と述べる一方、人間の能力を凌駕するAIシステムが創造者である人間に従うことを保証する解決策はまだ存在しないことを認めた。

ただし、現行モデルが人間に反乱を起こすリスクは「低い」としている。

コクソン氏は、アンソロピックが真摯に取り組んでいるが、政府の介入や協調的な開発の減速なしに、人間を凌駕するAIについて責任を持って開発できる企業は存在しないとの認識を示した。

「アンソロピックではリスクの重大性について十分に理解されているが、彼らは最初にそこ(超知能)に到達するための開発競争に縛られている。他社が責任ある行動を取るとは思えないので、危険を承知の上で自らやらざるを得ないと考えている」と指摘した。(c)AFP