■「道徳的な一線はどこに？」

さらに「もし何かがうまくいかなかった場合、誰が責任を負うのか。法的にどう定義し、どこで道徳的な線引きをするのか」と述べ、28日に攻撃を受けたイラン南部ホルムズガン州の小学校のケースを例に挙げた。イラン側によれば、この攻撃では150人以上が死亡している。

この攻撃をめぐってイラン側は米国とイスラエルを非難しているが、両国ともこれまでのところ関与を認めてはいない。AFPも死者数を独自に確認できておらず、現場を訪れることもできていない。

AFPは、この学校がイラン革命防衛隊（IRGC）が管理する2つの拠点のすぐ近くに位置していたことを確認している。これについてアサロ氏は、今回の攻撃に関する報告の一部で、少なくとも10年前から学校と軍事施設が明確に区別されていたことが示されていると指摘した。

もしミスがあったとしても何が原因であったかは不明だとした上で、「本来なされるべき『軍事基地との区別』を行わなかったのは誰なのか」──それが人間なのか、あるいは機械なのかと問いかけた。

もし攻撃にAIが使用されていたのであれば、「データが古かったのか」「データベースのエラーだったのか」あるいは「標的設定は正確だったが、単に精度が及ばなかっただけなのか」という疑問が生じる。「失敗の原因はいくらでも考えられる」のだ。

さらに、より恐ろしい可能性として「システムが実際に『この学校は脅威である』という結論に達してしまった可能性」もあるとした。

それは、その結論の背後にある推論ロジックが一体何であったのか、というより大きな問題を提起することになる。

「AIがどのようにしてこうした決定を下しているのか、我々は真実を危惧すべきだ」とアサロ氏は結んだ。(c)AFP/Nina LARSON