今年在旧金山举行的Advancing AI 2026(以下简称“AAI2026”)大会颇具新意,跳出了传统算力发布的固有范式,舞台之上不再堆砌芯片参数,而是聚焦产业本质,与头部AI企业共探AI规模化落地的破局之道。
短短几年时间,AI的焦点悄然发生着改变:曾经行业热切追逐模型参数与训练性能,而如今企业更关心如何让智能体真正跑在数据中心,并且稳定、经济地承接海量真实业务。行业正迎来一道关键分水岭,就如AMD董事会主席兼首席执行官苏姿丰博士在AAI2026大会上所言:“AI的下一阶段将涵盖前沿模型、智能体与物理AI,创造将智慧普及至各处的全新机遇。释放这一潜力,需要全行业携手共同努力。”
过去,人们习惯将AI算力与加速芯片划等号,但是在Agentic AI时代,任务编排、调度、数据流转的压力全面爆发,单一芯片难以承受AI规模化部署之重。在此背景下,AMD实现战略跃迁,致力于打造从训练到推理、从芯片到整机系统的全栈AI平台,践行“为每一类AI工作负载匹配最优算力”的核心理念,加速推动人工智能从技术创新走向规模化落地。
一幅蓝图正徐徐展开……
1
时代之变
Gartner预测,2026年将是AI基础设施支出的转折点,预计2026年全球AI推理业务支出达到233亿美元,而传统大模型训练支出为190亿美元。这标志着AI产业已经进入规模化落地应用阶段。
在行业重心聚焦于大模型训练时,算力评价更多关注加速芯片的峰值能力。但是到了推理成为AI主要工作负载的阶段,AI不再只是被动回答,而是要自主执行任务,包括上下文理解、工具调用、数据处理、任务编排、沙盒隔离等。这就要求新型AI基础设施不仅要算得快,更要确保任务调度顺畅、数据流转高效。在这种情况下,CPU将承担起大量编排、调度、沙盒执行的工作,CPU与GPU的配比随之发生结构性变化,同时内存瓶颈、网络数据传输瓶颈、软件适配、不同工作负载需要异构算力支撑等问题也如露出海面的冰山,日益凸显。
面对上述复杂的新需求,AMD的解法不是仅仅依靠单一芯片,而是以第六代EPYC为核心基石,通过技术创新+产品迭代+战略收购+生态合作伙伴协同,串联并完善CPU、专用推理、内存、网络、软件、机架系统的全链条,从而构建起完整的平台。
2
EPYC:Agentic AI基础设施的基石
智能体任务不只有模型生成,还包含任务规划、工具调用、代码执行、多轮上下文调度、数据预处理等大量复杂工作流。CPU与GPU的分工已经十分明确:GPU负责核心的计算推理,CPU则承担管理、调度、编排、供给数据的关键角色。在GPU主机节点中,如果CPU的数据供给跟不上,将导致加速器算力空转,这在大规模AI集群中对成本的损耗是极高的。与此同时,大量智能体沙盒服务器独立存在,专门承载Agent控制逻辑与各类工具执行,成为智能体体系中不可缺少的组成部分。
在AAI2026大会上,AMD正式发布第六代EPYC(9006系列,代号Venice),面向Agentic AI数据中心,提出三层数据中心架构,对应三大服务器场景——通用CPU服务器、GPU主机节点服务器、CPU沙盒服务器。整个产品家族基于Zen 6/Zen 6c架构,且支持统一软件生态与安全底座,通过不同型号的核心密度、频率、内存带宽、缓存、能效的差异化组合,适配不同业务的实际诉求,覆盖云计算、企业业务、HPC以及AI主机节点等多元化环境。客户可以按需匹配硬件能力,而非用一套硬件去硬扛全部工作负载。
第六代EPYC平台之所以被称为基石,因为它具备更高线程密度、领先的I/O子系统与内存带宽能力,单颗处理器最高可达256核心、512线程,部分型号加速频率最高可达5GHz;支持PCIe Gen6 I/O,每通道带宽相比上一代提升一倍,再搭配MRDIMM内存,可实现单Socket最高1.6TB/s内存带宽。
第六代EPYC的核心价值表现在,它并非单纯追逐峰值算力,而是追求每瓦、每美元、每机架可以承载更多并发智能体,将硬件能力转化为智能体业务的实际并发承载能力,帮助客户提升整体基础设施的产出效率。
头部客户的工程实践验证了第六代EPYC的价值所在。Meta与AMD围绕千兆瓦级AI基础设施开展联合工程设计,针对Meta自身业务负载对AMD完整AI计算栈进行联合优化。Meta已在其内部实验室完成第六代EPYC平台的验证测试,为后续规模化部署做好铺垫。Meta方面深刻感受到,随着系统向智能体方向演进,CPU能够更好地肩负起智能体编排、工具执行、数据管理等工作,而CPU与GPU之间的性能配比对优化AI基础设施的整体运行效率起到了十分关键的作用。
以第六代EPYC为依托,强大的CPU底座成了AMD全栈AI平台的一个核心支点。当底层调度、数据供给、沙盒执行的能力得到保障之后,再搭配异构的加速算力,就可以完整覆盖从训练到多样化推理的全链路需求。
3
通用加速+专用推理:补齐异构算力拼图
稳固的CPU底座,为整套AI平台打下调度与数据供给的基础,但面向复杂多变的AI业务,还需要多层次的异构算力来承载从训练到推理的各类任务。AMD Instinct加速器产品线,提供了大模型训练与通用推理的算力支撑,其硬件能力的价值还需要CPU、网络、软件整套体系协同,才能充分释放。
在AI业务快速落地之后,推理的工作负载分化愈发明显。通用加速硬件最大的优势在于灵活性,一套硬件可以适配不断迭代的各类大模型,能够很好地应对模型快速迭代、多模型混合部署的场景。但是在某些业务场景中,客户不再优先追求硬件的通用性,而是更加看重推理链路的实际运行效率、时延与部署成本等,因此通用架构在处理这类负载时,经常会遇到计算-内存之间的数据传输瓶颈,硬件资源会产生不必要的开销。这就需要与之互补的专用推理能力。
正是洞察到推理市场的上述变化,AMD通过收购Taalas,补强全栈体系中专用推理技术这关键的一环。Taalas一家是专注专用AI推理技术的初创企业,其核心技术聚焦推理数据流的深度优化,能够显著缓解通用架构下普遍存在的计算与内存瓶颈,以实现高度优化的AI推理能力。它可以作为通用加速硬件的重要补充,当业务追求极致推理效率时,借助Taalas的技术,能够优化推理链路的数据流转效率;当模型需要快速迭代、多模型混布时,则继续沿用通用加速方案。
后续,AMD计划将Taalas的技术与Instinct进行系统级整合,无缝融入AMD整体加速器技术路线,面向不同客户提供组合化的算力选择。
AMD以“通用加速+专用推理”的异构算力组合,为用户提供了个性化、灵活的选择:通用加速可以保障业务的灵活适配能力,专用推理面向特定负载最大程度地挖掘效率潜力,二者相互配合,能够更好地覆盖多样化的推理工作负载,支撑Agentic AI纷繁复杂的业务诉求。
4
网络与内存:突破两大关键瓶颈
算力硬件的能力上限,不等于整个AI集群的实际产出。尤其到了Agentic AI大规模部署的阶段,真正拖慢系统的往往不是计算单元本身,而是数据传输、内存调度这类容易被忽视的环节。AMD通过强大的Pensando网络能力与对MEXT的收购,让全栈平台的数据流转链路高效贯通。
Agentic AI的工作模式会产生大量跨节点、跨芯片的数据与指令交互。任务调度、工具调用、多轮上下文分发,都需要节点之间高频交换信息。集群的网络带宽、延迟表现,直接决定了整套系统向外扩展的规模上限。
Pensando的DPU与AI网卡,正是为解决上述问题而生。它不参与模型本身的计算,而是主要承担前端接入、集群横向与纵向扩展的网络职责,将网络、安全、存储相关的负载从CPU上剥离出来,从而释放出更多CPU算力用于AI业务本身。在机架级系统内部,这套网络组件有效保证了算力单元之间的数据互通,是整套平台高效协同运行的基础支撑。在AAI2026大会上展示的AMD全栈方案中,Pensando网络组件已深度融入整体架构,与EPYC、加速硬件、ROCm软件等协同工作,保障智能体业务在大规模集群环境下稳定高效运转。
随着大模型长上下文、智能体任务的大量落地,内存成了制约AI系统稳定运行、控制建设成本的最大痛点之一。很多时候,CPU与加速硬件的算力储备充沛,却受限于繁重的内存读写压力,硬件只能被动等待数据,造成算力闲置浪费。
针对这一行业共性难题,AMD通过对MEXT的收购,引入了其核心的预测内存引擎技术。这是一套软件层面的内存优化方案,借助AI持续分析系统的内存访问行为,自动区分冷热数据:访问频次低的冷数据迁移至成本更低的闪存介质,同时预判业务即将读取的数据,提前预加载回高速内存,在不影响业务体验的前提下拓展系统的有效内存容量,有效管控硬件投入成本。
将MEXT的内存优化能力纳入到AMD的全栈体系之后,内存优化不再是客户需要自行二次开发的工作。此能力与EPYC、整套AI计算栈相结合,能够为Agentic AI大规模落地、优化基础设施投入效益提供有力支撑。
5
ROCm:软件是粘合剂
一套再完备的异构硬件组合,如果缺少配套软件来打通调度、适配与调优各环节,硬件的实际能力很可能会大打折扣。ROCm是AMD全栈AI平台的软件底座,它串联起CPU、加速硬件、网络组件、内存优化模块,将分散的硬件单元捏合成一套可以真正落地运行的完整系统。
在AAI2026大会上,AMD正式推出ROCm.ai,一套面向开发者的AI原生开发平台。它将AMD平台的技术经验注入Claude、Codex、Cursor这些主流编程智能体当中,让这些编码工具能够原生理解ROCm与AMD硬件。开发者借助AI助手,就能完成环境部署、故障排查、负载调优等繁复工作,提升整体开发效率。
众所周知,生态适配的成熟度直接决定应用落地的门槛。目前PyTorch、HuggingFace、vLLM、SGLang这些行业主流的开源框架,均已提供对ROCm的支持路径,开发者无需从零搭建整套运行环境,沿用已经熟悉的工具链就可轻松开展业务,从而大幅降低向AMD平台迁移的成本与试错压力。
ROCm的价值不仅仅局限于加速硬件的调度。它能够打通CPU、加速卡、自适应计算等不同类型的硬件,抹平异构设备之间的开发差异,为开发者提供一套统一的开发使用体验。
可以这样说,正是依托ROCm这一开放软件底座,EPYC、异构加速、网络、内存优化等硬件层面的能力,才能真正转化为面向Agentic AI可用的生产力。
6
从芯片到机架:全栈能力打包交付
对很多企业而言,建设超大规模AI集群不只是采购一批芯片那么简单。如果零部件分散采购,后续还要耗费大量精力做硬件适配、系统调优、兼容性排查,不仅整个部署周期长,而且容易出现各组件之间配合不到位的问题。市场迫切需要一套经过端到端协同优化、能够直接投入业务使用的基础设施单元。Helios机架级解决方案应运而生。它并非各类硬件的简单堆砌,而是将EPYC CPU、加速硬件、Pensando网络以及ROCm 软件,通过联合设计、整体调优后形成一体化的机架基础设施单元,完成了从底层芯片到整机机架的完整能力覆盖,将分散的全栈技术转化成可直接落地的解决方案。
在产品验证阶段,OpenAI、Meta、Anthropic等头部AI企业已经深度参与进来,与AMD开展联合设计和平台验证工作。这也预示着“厂商供货、客户采购”的传统模式将转向联合调试、联合工程开发的深度协同模式,让系统设计更贴合真实AI业务需求。
7
AMD的AI领导力:头部AI企业的选择
金杯银杯,不如客户的口碑。一套平台的价值,最终还是要由客户的选择来印证。在AAI2026大会上,AMD披露了与多家头部AI企业的深度协作进展,比如Meta跨多代EPYC平台与AMD 持续协同,联合开发全栈AI基础设施,致力于打造千兆瓦级规模的基础设施;OpenAI围绕编译、ROCm软件与AMD开展全栈联合攻关和优化,推进Helios机架级方案的部署落地;Anthropic与AMD保持多年工程协作,借助Claude辅助支撑AMD软件栈的持续更新迭代。
面向下一代AI基础设施,AMD展现出的先进性、前瞻性不仅仅体现在单点芯片性能指标的全面提升,更在于它具备从芯片到机架完整的平台构建能力,并以开放、全栈的思路重新定义AI基础设施的建设范式,推动AI从原型走向大规模生产部署。越来越多构筑AI未来的企业坚定地选择AMD完整的全栈方案也验证了这一点。
8
全栈、开放:持续演进的力量
当下,AI基础设施的竞争逻辑已经发生深刻转变,行业的角逐早已不再热衷于单颗芯片性能的高低,而是延伸至系统架构、软件能力与产业生态的综合实力的比拼。在Agentic AI蓬勃兴起的新周期,AMD以全栈平台思维构建下一代AI基础设施,走出了一条差异化的发展路径,同时其技术方案已在真实业务场景中经历不断打磨迭代。
需要再次重申,“为每一类AI工作负载匹配最优算力”并非一句简单的口号,而是AMD引领AI规模化落地浪潮的长期发展愿景,也将持续为Agentic AI等前沿应用的商业化演进提供更加坚实的支撑。