中国、米アンソロピック社のAIツールに「バックドア」と警告
このニュースをシェア
【7月8日 AFP】中国の産業規制当局は8日、米国の人工知能(AI)企業アンソロピック社が提供するコーディングツール「クロードコード」の一部バージョンに、「バックドア」が仕込まれているとしてユーザーに警告を発した。
中国の国家情報セキュリティー脆弱性データベース(NVDB)は、このバックドアとされる仕組みにより、ソフトウェアがユーザーの同意なしに、位置情報や識別子(ID)などの「機密情報」をアンソロピック社のサーバーに送信する可能性があると指摘した。
「クロードコード」は、ユーザーの指示(プロンプト)に基づいてプログラムコードの生成、ソフトウェアのデバッグ、コードレビューなどを行うことができるAIコーディングエージェントだ。
アンソロピック社は、中国や同社が敵対的とみなすその他の国々のユーザーや企業による自社製品へのアクセスを遮断しているが、中国国内からはVPNや第三者のプロキシサービスを介して利用することが依然として可能となっている。
中国工業情報化部のNVDBは、公式サイトで「AIコーディングツール『クロードコード』にセキュリティバックドアのリスクが検出され、深刻な脅威をもたらしている」と発表した。
アンソロピック社は、先週初めて浮上したこの疑惑をめぐり、現時点でAFPの取材に応じていない。
NVDBは関連機関やユーザーに対し、「ただちに包括的なチェックを実施」し、「当該のバックドアコードが削除された最新の安全なバージョンへのアップグレード、またはアンインストール」を勧告した。また、企業や組織に対しては、機密データの不正な流出を防ぐためにネットワークトラフィックの監視を強化するよう促した。
事情に詳しい関係者によると、電子商取引大手の阿里巴巴(アリババ)は先週、セキュリティ上の懸念を理由に、7月10日から従業員によるクロードコードの使用を禁止すると通達した。
アンソロピック社は以前、アリババが自社のAIモデルをリバースエンジニアリングし、「蒸留」と呼ばれるプロセスを通じてその能力を模倣したと非難していた。
クロードコードのエンジニアであるサリク・シヒパー氏は先週、同ツールが中国ユーザーの特定のデータを追跡しているとする報道を受け、X(旧ツイッター)への投稿でその実情を説明した。
シヒパー氏は、「これは未承認の業者によるアカウントの不正利用を防ぎ、モデルの蒸留から保護することを目的として3月に開始した実験だ」とし、「チームはそれ以降、より強力な不正利用対策を導入しており、実際には以前からこのコードを削除するつもりだった。明日のリリースで完全に撤回(ロールバック)されるはず」と述べた。(c)AFP