智能体AI重塑CPU与GPU的平衡关系

来源:灵睿智芯 #灵睿智芯# #智能体AI#
870

如今,在许多基础设施规划会议上,都有这样一番对话:“智能体AI会改变CPU与GPU 的比例。所以,我们只需要在现有的GPU服务器里多加几颗CPU就行了,对吧?”

这听起来很符合逻辑。但这也正是很多人误解的地方。

从聊天机器人式的AI向智能体AI的转变,绝不仅仅是把几颗CPU塞进现有的、以GPU 为主的机架里那么简单。它的影响远比这深远得多——这是一场数据中心架构的结构性变革。智能体AI正在催生对全新CPU服务器机架的巨大需求,这些机架将与现有的GPU基础设施并肩而立,为所有智能体的日常工作提供算力支撑。

对于企业IT负责人来说,这带来了一个深刻的启示:智能体AI正在重写AI基础设施的算力平衡法则。

AMD曾预测服务器CPU市场将以每年18%的速度增长;但智能体带来的算力需求结构性激增,彻底改变了这一测算模型。现在AMD预计,服务器CPU的总潜在市场规模(TAM)年增长率将超过35%,到2030年有望突破1200亿美元。

第一波浪潮:

以模型回复为核心的聊天机器人AI

生成式AI的第一波浪潮,是建立在一个相当简单的模式之上的:用户提问,应用程序将提示词(Prompt)发送给模型,模型生成回复,应用程序再将结果返回给用户。

这种架构自然而然地催生了以GPU为核心的设计。在那些部署中,CPU充当着配备4 到8块GPU的服务器的“头节点(Head Node)”。这颗头节点 CPU 负责调度、I/O(输入/输出)和系统管理,而繁重的数学计算则全部交由GPU来完成。

来源于:AMD官网

智能体AI

绝不仅仅是“聊天加工具”那么简单

我们现在正处于智能体 AI 时代的初期。在这个时代,工作负载的形态发生了彻底的改变。智能体不再只是回答单一的提示词(Prompt),而是会将一个目标拆解为多个步骤,决定下一步的行动,调用多个模型、查询数据库、连接API、运行企业级应用、检查权限、检索记忆、验证输出结果,然后再循环往复地执行这一系列流程。这与“输入提示词、输出答案”的聊天机器人AI相比,有着截然不同的基础设施需求画像。

尽管GPU在模型执行方面依然至关重要,但当前的生产工作负载已经变得高度依赖 CPU。CPU 现在需要承担起以下核心职责:

  • 编排(Orchestration):管理负责拆解复杂任务的底层引擎。

  • 智能体执行与工具调用:触发各类 API 以及传统的企业软件。

  • 策略与安全:对智能体的每一个自主操作进行现实世界中的合规与安全校验。

来源于:AMD官网

应对CPU-GPU算力重心转移的解法,

绝不仅仅是“多加几颗CPU”

在聊天机器人AI时代,CPU与GPU的比例通常是1:4或1:8;但在智能体AI时代,我们正看到这一比例向1:1演进,在某些场景下,对CPU的算力需求会更高。

这里的关键在于:你绝不能仅仅通过在GPU服务器里“零星塞入”更多CPU来实现这种平衡。真正的解法是,引入一个经过全新架构设计的CPU计算层。

对于企业 IT 负责人而言,你们的规划思路必须与时俱进。

未来几年的主流 AI 系统,将不再是一个单一的“AI一体机(AI Box)”,而更像是一个分布式系统。你将拥有用于高密度模型计算的 GPU 机架、高速网络,以及能够确保系统全程可观测、安全且高效的软件栈;同时,你还将拥有用于任务编排、数据处理及工具执行的智能体CPU 机架。

在这个阶段,均衡的架构比任何时候都重要。

  • 如果CPU层算力不足,GPU就会陷入空转等待;

  • 如果网络架构未被充分重视,智能体的执行就会停滞;

  • 如果数据路径设计混乱,系统延迟就会急剧攀升;

  • 如果编排层没有为高并发做好设计,系统的成本和复杂性就会随之飙升。

来源于:AMD官网

给IT负责人的实操建议

值得再次强调的是:智能体AI正在彻底改变基础设施的底层逻辑。

随着智能体AI从试点阶段走向生产部署,千万别再把它当成“只是给企业加了个聊天机器人”来规划基础设施了。你得把它当成引入了一整支全新的数字劳动力大军——它们需要全天候地进行规划、执行、校验、检索信息、调用工具以及跑通各种工作流。

这意味着,你规划的CPU算力要比早期为AI预估时多得多。这也意味着,你的目光不能只盯着GPU服务器,还得统筹考虑整个机架、网络架构(Fabric)、软件生态以及整体的运营平衡。

在智能体时代,性能不再是靠单一处理器包揽一切来实现的。真正的性能来自合理的架构——让CPU和GPU协同作战,才能把AI从单纯的“给出答案”推向真正的“采取行动”。

以上文章选自:AMD Blogs - Agentic AI Changes the CPU/GPU Equation

https://www.amd.com/en/blogs/2026/agentic-ai-changes-the-cpu-gpu-equation.html?

责编: 爱集微
来源:灵睿智芯 #灵睿智芯# #智能体AI#
THE END
关闭
加载

PDF 加载中...