【10月1日 AFP】米グーグルは9月30日、同社で最も強力な人工知能（AI）モデル「ジェミニ4アルゴン」の一般公開を当面見送る方針を明らかにした。ハッカーによる悪用が懸念されるためとしている。一般公開までは、特定のサイバーセキュリティー専門家チームにのみアクセス権限が付与されるという。

一般公開の見送りについて、グーグルの人工知能（AI）開発部門を率いるコーレイ・カブクチュオール上級副社長は「このレベルの最先端機能を安全に公開するには、段階的なアプローチが必要だ」と説明した。

グーグルは米政府に対してモデルへの事前アクセス権を自主的に提供しているとし、広く一般に提供する前にテスターからのフィードバックを収集するとしている。

この慎重な展開戦略は、ライバル企業のアンスロピックの動きに続くものだ。同社もまた、最先端モデル「クロード・ミュトス・プレビュー」へのアクセス権を信頼できる一部の組織のみに制限している。

米政府は6月、一般公開されていたアンスロピックのモデル「クロード・ミュトス」および「クロード・フェイブル」へのアクセスを一時的に中断するよう要請。それ以降、最も強力なAIモデルの公開前審査に向けた自主的な枠組みを導入している。

今回の発表は、ドナルド・トランプ米大統領がホワイトハウスでグーグルのスンダー・ピチャイ最高経営責任者（CEO）やアンスロピックのダリオ・アモデイCEOらIT大手の代表を招待し、自社のAIシステムに伴うリスクの監視を約束する「自主規制」に合意した翌日に行われた。

サイバーセキュリティの専門家らは、こうした最先端技術が銀行、病院、政府機関のシステムに対するハッキングに悪用されることを懸念している。

アルゴンについてグーグルは、サイバー攻撃の実行や化学・生物・核兵器の開発に悪用され得る要求を拒否する仕様に設計されていると説明。さらに、ユーザーの意図しない挙動を防ぐため、モデルの思考過程（推論）を監視しているとした。

AIをめぐっては、オープンAIが開発中（未公開を含む）の2モデルがサイバーセキュリティ評価中に密閉されたテスト環境から抜け出し、AI企業ハギング・フェイスのサーバーをハッキングしたことを7月に公表して以来、一段と緊急性を増している。(c)AFP