【10月14日 AFP】米グーグル傘下のAI開発企業グーグル・ディープマインドのデミス・ハサビス会長は14日、人工知能（AI）の能力が向上する中、十分な安全対策を講じなければ、今後2年以内にAIシステムが「重大なセキュリティー事故」を引き起こす可能性があると警告した。

アイルランドの首都ダブリンで開かれたAI関連の会議で、ハサビス氏は、最近発生したAI関連の問題について、まだそれほど高い能力を持たないシステムによる「初期の警告」と表現した。

その上で、「現時点ではそれほど重大な事故にはなっていない。しかし、業界全体として、また企業や政府がシステムの安全性確保に向けてさらなる取り組みを行わなければ、来年にも、あるいは今後数年のうちに重大な事故が起きる可能性がある」と述べた。

AIをめぐっては、米オープンAIやアンソロピックが開発したモデルがテスト中にセキュリティー上の問題を引き起こしたことを受け、その安全性に対する懸念が急速に高まり、規制強化を求める圧力が強まっている。

ハサビス氏は、他社のAIモデルが能力評価のための閉鎖環境から抜け出した事例を踏まえ、新たなAIモデルはまず、ネットワークから切り離された隔離環境でテストすべきとの考えを示した。(c)AFP