【9月29日 AFP】米オープンAIは28日、人工知能（AI）の最新モデル「アストラ6.1」の公開を取りやめると発表した。安全基準を満たしていないことが社内テストで判明したためとしている。

年次開発者会議「OpenAI DevDay」開催前日の発表となった。同会議では複数の発表が行われるとみられているが、アストラの改修版が含まれるかは不透明となっている。

アストラ6.1について、システム安全性担当部門の責任者は、過去のモデルから一部向上しているとしながらも、「許容範囲や権限の遵守、実施した作業内容に関するユーザーへの伝達方法などの点において、当社の基準を満たしていなかった」と説明した。

また「社内開発であれ、ユーザーへの提供であれ、モデル開発が安全であることを確実にしたい。特にユーザーへ提供するにあたっては、安全性と整合性（アライメント）において極めて高い基準を設けている」と述べた。

ここ数か月でAIの安全性に対する懸念が高まっている。そのきっかけとなったのは、オープンAIや競合する米アンソロピックが開発したモデルによる、試験中のセキュリティ事案だ。

これまでに、オープンAIのモデルで構築されたAIエージェントが、米政府機関やオーストラリア政府の保健統計ポータルサイト、AIモデルの共有プラットフォーム「ハギング・フェイス」が管理するウェブサイトへ不適切なアクセスを行っていたことが判明している。(c)AFP