1秒に3万6000件、AI武装ハッカーの猛攻撃…生成AIが生む“サイバー戦争”の最前線 [韓国記者コラム]

【12月06日 KOREA WAVE】生成AI（人工知能）がハッカーたちの新たな武器として活用され、世界的にサイバー攻撃が爆発的に増加している。AI専門サービス企業「Bespin Global（ベスピングローバル）」が12月3日に発表した『2025 AIセキュリティ・インサイト』によれば、現在、世界では1秒あたり約3万6000件のAIベースのサイバー攻撃が発生しており、前年比で16.7%増加しているという。

報告書によると、初心者のハッカーであっても「WormGPT」や「FraudGPT」など、セキュリティ制限のない生成AIを用いることで、短時間で高度な攻撃が実行可能だ。従来16時間かかっていたフィッシング攻撃の準備も、AIの導入によりわずか5分で済むという。

マッキンゼーの調査では、生成AIの登場以降、フィッシング攻撃は1200%増加したとされる。

攻撃の対象も個人や企業から、電力網・医療ネットワーク・産業インフラなどの重要インフラ分野にまで拡大している。専門家は「AIエージェントが攻撃対象の選定から実行までを全自動でこなす時代が近づいている」と警鐘を鳴らす。

一方、AIそのものを狙う「敵対的AI攻撃（Adversarial Attack）」も増加している。特に国家レベルのハッカーによる攻撃が活発化しており、AIに悪意あるプロンプトを与えて誤作動させるプロンプト・インジェクション（プロンプト攻撃）や、学習データを意図的に汚染するデータポイズニング攻撃（ポイズニング攻撃）が実行されている。

過去には、ある自動車メーカーのチャットボットがハッカーに誘導され、新車を「1ドルで販売する」と誤応答した例も報告された。

さらに驚くべきことに、AIが他のAIをハッキングし、時には自己攻撃する現象も確認されている。

米国のあるスタートアップが開発した「Jailbreaking to Jailbreak」手法では、AIにレッドチーム（侵入テスト担当）のように振る舞わせ、他のAIに対して侵入を試みさせる。

その結果、「Claude 3.5 Sonnet」や「Gemini 1.5 Pro」は、それぞれOpenAIの「GPT-4o」に対して93%、91%の成功率でハッキングに成功した。両モデルを併用すると成功率は98.5%に達した。さらにGeminiは自らを91%の確率でハッキングすることもできたという。

ベスピングローバルは「AIによる攻撃は人間の想像を超えるスピードと規模、精度を持って日常生活に入り込んでいる」として、事前のセキュリティ投資と全社的な防御体制の強化が必要だと強調する。

生成AIの進化は、もはや利便性だけでなく、安全保障や社会インフラの脅威という新たな側面をもたらしている。【NEWSIS オ・ドンヒョン記者】

(c)NEWSIS/KOREA WAVE/AFPBB News