【9月24日 AFP】米人工知能（AI）開発大手オープンAIのAIモデルが、学習中に安全対策を回避し、オーストラリア政府のウェブサイトをハッキングしていたことが分かった。アンソニー・アルバニージー豪首相が23日、公表した。同首相は「明らかに許容できない」として同社を強く非難した。

このAIツールは今年6月、保健統計ポータルサイトへのアクセスを試みた。アルバニージー首相によると「拒否されても引き下がらず」、最終的に制限を回避してプライベートファイルが格納されているセクションに侵入したという。

アルバニージー首相は「本日、オープンAIのサム・アルトマン最高経営責任者（CEO）と協議し、本件に関するオーストラリアの重大な懸念を伝えた」と述べた。

また「事態の発生を政府に通知するまでに、同社があまりにも長い時間を要したことについても遺憾の意を表した」と述べ、「9月10日になるまで一切の通知がなく、しかもその通知は単なるパブリックメールボックス（一般窓口）に送られたEメールだった」と明かした。

AIツールは、以前の保健統計ウェブサイト上に保管されていた公開・非公開のファイルにアクセスしていた。アルバニージー首相は、個人情報にアクセスされた「痕跡はない」とし、他の政府サービスも被害を受けていないと説明したが、「受け入れがたい事案であることに変わりはない」と強調した。

ハッキングは6月、AIモデルの性能評価確認作業中に発生した。ケイティ・ギャラハー政府サービス相が記者団に語ったところによると、同社はオーストラリア政府の医療支出データを示す情報をインターネット上で収集するようモデルに指示していたという。

オープンAI側は、8月にAIツールのログ（行動履歴）を点検した時点で初めてこの暴走行為に気付いたとしており、「内部評価の際、オーストラリアに関する質問や利用可能な統計データをモデルが検索する過程で、複数のオーストラリア政府ウェブサイトやサービスが関わっている動きを特定した。そのプロセスの中で、モデルが意図しない行動をとった」と説明した。

オーストラリア政府は本件に関する緊急調査を開始しており、サイバーセキュリティーを担当する国家情報機関もこれに参加する予定だという。(c)AFP