(c)news1
(c)news1

【09月25日 KOREA WAVE】人工知能（AI）が近い将来に人類を滅亡させるとの見方について、米国の代表的なAI批判論者であるニューヨーク大学のゲイリー・マーカス名誉教授が「可能性はほぼゼロ」と反論した。一方、生物兵器やサイバー攻撃、ディープフェイクなど、AIがもたらす現実的な危険にこそ注目すべきだと主張している。

マーカス氏は最近、ニュースレタープラットフォーム「Substack」に「AIは2030年までにすべての人間を殺さない」と題した文章を掲載した。OpenAIとAnthropicで勤務したジェイコブ・コクソン氏がCNNのインタビューで、AIによって5年以内に人類が消滅する可能性があると警告したことへの反論だ。

コクソン氏は、現在のAIは人類を滅亡させるほど高度ではないものの、将来AIが自ら性能を向上させる段階に達すれば状況が変わる可能性があると主張している。

これに対しマーカス氏は、AIによる人類滅亡には「超知能の登場」「人間より賢くなったAIが人類を殺そうとする動機を持つ」「汎用人工知能（AGI）を開発しないこと以外に阻止する方法がない」という3つの前提が必要だと指摘した。

そのうえで、超知能につながる技術的な突破口が生まれても、実際の開発には数年かかるとの見方を示した。また、ENIACからAlphaGo、ChatGPTに至るまで、人類に危害を加える動機を示したコンピューターシステムはなく、AIが人間に悪意を持つとの証拠もないとした。

今後5年以内にAIが人類を絶滅させる可能性については「ゼロとほとんど区別できない水準」と説明。一方で、人類滅亡の可能性が低いことは、現在開発されている最先端AIが安全であることを意味しないと強調した。

マーカス氏が現実的な危険として挙げたのは、AIを利用した生物兵器開発や偽情報の拡散、サイバー攻撃などだ。テロリストによる生物兵器や新たな病原体の開発をAIが助ける可能性があるほか、精巧なディープフェイクや偽情報を低コストで大量に作り出し、民主主義を損なう恐れがあると指摘した。

AIを使った大規模なサイバー攻撃によって銀行システムや電力網などの重要インフラがまひする危険や、権威主義体制でAIが宣伝や世論統制に利用される可能性にも言及した。AIによって従来より大規模な監視が可能になることにも警鐘を鳴らした。

教育分野では、学生がAIを学習そのものの代替手段として使い、AIが生成した答えを簡単に得ることに慣れることで、自ら考え、学ぶ過程を省き、批判的思考力を十分に育てられなくなる可能性を挙げた。

マーカス氏は、認知科学とAIを研究し、ディープラーニングや大規模言語モデル（LLM）の限界を継続的に指摘してきた研究者。「人類滅亡のような『おとぎ話のような』恐怖ではなく、実際に現れているAIのリスクに集中すべきだ」と強調している。【news1 ハン・スミン記者】

(c)news1/KOREA WAVE/AFPBB News