AIエージェントの電力消費は「単純応答の136倍」…韓国KAISTが明かしたデータセンター負荷

【07月10日 KOREA WAVE】韓国科学技術院（KAIST）は5日、電気・電子工学部のユ・ミンス碩座教授の研究チームが、AIエージェントが実際のサービス環境でどれほど多くの計算資源と電力を使うかを、体系的に分析したと明らかにした。

最近、ChatGPTのような大規模言語モデル（LLM）基盤のアプリケーションは、単に質問に答える段階を超え、自ら計画を立て、インターネット検索や計算機、コード実行などさまざまな外部ツールを活用して複雑な問題を解決するAIエージェントへと急速に発展している。

AIエージェントはソフトウェア開発、研究、業務自動化など幅広い分野で活用が広がっているが、実際に運用するためにどれほどの電力と費用が必要なのかは、ほとんど知られていなかった。

特にAIエージェントは、単一の質問に基づく大規模言語モデル推論とは異なり、資源使用量と電力需要が大きく増える可能性があり、持続可能性を評価するためにはインフラの観点からの分析が必要だ。

研究チームはAIエージェントを単なるプログラムではなく、データセンターのサーバーとGPUが継続的に処理しなければならない新たな形の作業負荷と定義し、実際の実行過程で発生する計算量とエネルギー消費を分析した。

その結果、AIエージェントは従来の段階別推論とは異なり、複数回にわたって大規模言語モデルを繰り返し呼び出すことが分かった。

こうした言語モデルの反復呼び出しにより、応答時間も大幅に増加した。AIエージェントの回答時間は最大153.7倍長くなり、外部ツールが作業を処理する間、GPUは全実行時間の最大54.5％を何の計算もできないまま待機していたと分析された。AIがより複雑な仕事を担うほど、高価なGPUを十分に活用できない新たな非効率が生じるということだ。

研究チームは、AIエージェントが使う電力もデータセンター規模で分析した。現在の商用AIサービス水準である700億個のパラメーターを持つ大規模言語モデルを使うAIエージェントは、質問1件を処理するのに平均348.41ワット時（Wh）の電力を消費した。これは従来の生成AIによる単純な質疑応答方式より136.5倍高い。また、1日137億件のAIエージェント要請が発生する未来環境を仮定して分析した結果、データセンターの電力需要は約198.9ギガワット（GW）に達すると推定された。これは現在、世界各国が推進している数GW規模のAIデータセンターを大きく上回る水準で、米国全体の平均電力消費量の約半分に当たる。

今回の研究は、AI時代の競争力が「より賢いAI」から「より効率的なAI」へ移っていることを示している。今後はAIモデルだけを発展させるのではなく、AI半導体、データセンター、電力インフラを共に最適化する「共同設計」が必須戦略になると期待される。これはAIサービスの運用費用を下げ、持続可能なAIインフラを構築する重要技術になりそうだ。

ユ・ミンス教授は「今後、AIエージェントが普遍化する時代には、AIデータセンターのインフラだけでなく、AIエージェントモデルと電力インフラまで統合的に共同設計し、最適化するアプローチがさらに重要になる。AIサービスの活用費用を画期的に減らし、持続可能なAIインフラを構築するための研究と投資が不可欠だ」と強調した。

(c)news1/KOREA WAVE/AFPBB News