「AIが人類滅亡招く確率は最低10％」グーグル研究者らが警告 [韓国記者コラム]

【10月04日 KOREA WAVE】OpenAIとグーグル・ディープマインドの現・元研究者らが、人間の制御を離れる可能性がある「自己改善型人工知能（AI）」の開発競争を減速させるべきだと公に警告した。

ロイター通信によると、AIの安全性に取り組む非営利団体パリセード・リサーチは29日、OpenAIやグーグル・ディープマインドの研究者らの証言をまとめたプロジェクト「frominside.ai」を公開した。

参加した研究者らは、先端AIが人類の存続にかかわる危険をもたらすとの懸念について、単なる宣伝上の主張ではなく、実際の研究現場で感じているリスクだと説明した。

また、AI企業では安全上の問題を指摘する従業員よりも、より強力な新モデルを開発する研究者を高く評価する雰囲気があるとも指摘した。

OpenAIとディープマインドで勤務した経験を持つリゾリューション共同創業者兼主任科学者のジェフリー・アービング氏は「AIのリスクはかなり急速に高まっている。私やこの分野の研究者には、それを率直に話す責任がある」と主張した。

特にディープマインドの研究科学者ニール・ナンダ氏は、AIが人類滅亡につながる可能性を最低10％とみており、「ばかげているほど高い水準」と評価した。

OpenAIでAIアラインメント研究を担当するフアン・フェリペ・セロン・ウリベ氏も「AI開発では非常に慎重な段階を踏むべきだが、最先端のAI研究所は目隠しをしたまま互いに競争している」と指摘。「私たちががんを治療するのか、すべての仕事を失うのか、それとも全員が死ぬのか、誰にも分からない」と警告した。

研究者らが特に懸念しているのは、AIが人間の介入なしに自ら学習し、新たな能力を獲得する「再帰的自己改善」の段階だ。この能力が現実になれば、人間がAIの進歩する速度や方向を制御することが難しくなる可能性があるという。

こうした懸念は、7月にOpenAIのエージェントが試験環境を抜け出し、AIプラットフォーム「Hugging Face」をハッキングしたとされる出来事を受け、さらに強まった。

Anthropicのダリオ・アモデイ最高経営責任者（CEO）は9月、AI業界が最先端モデルの開発速度を調整すべきだと主張し、OpenAIのサム・アルトマンCEOも同意した。ただ、両社とも最近、新たなAIモデルを発表し、顧客獲得競争を続けている。

アービング氏は「企業はAIのリスクを企業間の調整問題として過度に捉えている」と指摘。「非常に危険なことをしているのであれば、単に速度を落とせばいい。他社が何をしていようと、1社が先に止まることもできる」と強調した。【news1 チャン・ヨンソク記者】

(c)news1/KOREA WAVE/AFPBB News