芯片竞争进入系统时代：SK海力士研判AI基础设施设计范式全面重构

随着Agentic AI（智能体 AI）、大模型训练与复杂推理负载爆发，全球AI产业竞争正在跳出单芯片跑分的传统赛道。

据财闻海外资讯，10月22日，SK海力士在其官网发布《AI基础设施洞察》系列第四篇终章报告《未来AI基础设施将如何设计》，提出一个核心判断：AI系统的真实性能，取决于计算、内存、存储、网络、供电、散热整套体系的协同能力，单一加速器性能已经不能定义AI基础设施的上限。

这份报告是该系列的收官之作，前三篇分别聚焦AI数据中心内部变革、GPU性能的边界、供电与散热的现实瓶颈。报告认为，前面三篇提出的行业痛点共同指向同一个行业命题：下一代AI基础设施，必须跳出零部件独立开发、后期拼接的旧模式。

设计边界扩张：从单台服务器，升级到机柜、再到完整数据中心

传统数据中心架构中，机柜只是存放多个独立服务器的物理载体，服务器之间相互独立配置，硬件资源连接分散。但大规模AI训练、智能体推理场景下，大量加速器需要高密度互联协同工作，系统瓶颈不再局限于芯片本身，加速器之间互联、内存带宽、网络时延、整机供电散热的均衡性，直接决定集群实际产出效率。

由此，机柜级系统（Rack‑scale system）成为重要演进方向：把整个机柜视作一台完整的超级计算单元，在机柜层级统一规划计算单元、内存配置、高速互联网络、供电与散热体系，不再是多台服务器简单堆叠。

而设计的边界还将继续向外延伸。超大规模AI集群中，机柜摆放位置、跨柜网络距离、布线架构，都会带来数据传输时延差异；高密度机柜带来的巨量散热压力、整栋数据中心配电架构，同样会显著约束集群的可用性能。报告强调，想要释放AI硬件全部潜力，基础设施设计必须把机柜布局、建筑物理结构、电力输送、热管理全部纳入一体化考量，设计单元从机柜拓展至完整数据中心园区级别。

负载分化倒逼定制化架构，智能体AI放大数据移动瓶颈

不同AI业务负载，对基础设施的诉求截然不同。大规模模型训练，追求高吞吐、超大内存带宽、加速器之间高速互联；通用推理业务更看重低时延、成本与供电能效。

而正在快速落地的Agentic AI智能体负载，进一步抬高基础设施设计难度。一次智能体请求会触发多轮推理，反复调用外部工具、读取外部知识库，内存‑存储‑网络之间的数据频繁搬运，数据移动效率取代单纯算力，成为影响业务体验的关键瓶颈。报告特别警示：即便是性能顶尖的加速芯片，如果数据流转不通畅、内存带宽不足、供电散热不稳定，也无法释放标称性能。做基础设施的第一步，是明确这套集群要承载怎样的业务负载，再反向定义硬件架构，而不是用一套通用硬件去适配所有AI任务。

范式转换：从后期组装走向全流程协同设计（Co‑design）

过去行业通行模式：各个零部件厂商独立开发芯片、内存、网卡、存储设备，等到项目后期再完成硬件集成。但AI高密度系统中，加速器功耗变化直接改变内存、互联、机柜散热需求；反过来，数据中心能提供的电力上限、冷却能力，又会限制计算硬件的部署规模。零部件独立研发、后期拼凑的模式已经走到能力边界。

“协同设计（Co‑design）”成为行业新范式：在项目最早期阶段，就将计算、内存、存储、网络、供电、散热的需求对齐，把液冷热管理、配电能力当成和芯片同等重要的设计变量，而非后期配套工程。不再采购现成零部件做拼装，而是面向业务负载做整体架构定义，从源头规避系统瓶颈。

协同设计不能只局限单一企业内部，整个生态需要通用接口标准来打通不同厂商硬件。报告举例，Open Compute Project（OCP）正在推进下一代数据中心供电架构、设备接口标准化；JEDEC等组织定义HBM等内存底层规范。统一标准可以让上下游厂商生产互通兼容的硬件产品，避免每家数据中心都要定制专属硬件，降低整个产业的落地成本。

当然通用标准只提供互操作基础，高性能AI系统依旧需要在标准之上做深度定制。以HBM高带宽内存为代表，新一代定制化HBM方案，需要内存厂商深度介入客户系统早期规划，基于HBM基底芯片，根据客户集群的带宽、容量、功耗、散热目标，共同定义内存规格。

内存厂商角色迭代：从硬件供应商，升级为系统早期共建伙伴

这场变革正在重塑内存企业的产业定位。SK海力士在报告中披露自身新的协作流程：第一步理解客户下一代系统路线图，第二步拆解业务负载需求，第三步共同定义内存带宽、容量、功耗、热指标，第四步对齐内存产品研发计划，第五步跟进下一代系统迭代持续优化内存方案。

内存厂商的核心竞争力，不再仅仅是芯片本身的硬件参数，更在于能否更早介入客户系统架构设计，深度参与协同定义内存规格。在AI基础设施的竞争当中，内存企业的差异化优势，来自对下游系统路线的预判与前置协同深度。

行业展望：AI基建竞争是整体架构的博弈

报告总结，AI基础设施规模持续膨胀，仅仅对各个硬件部件单独优化已经远远不够。数据流转链路、配套电力与散热体系，必须与计算硬件一体化设计。未来AI基础设施产业的竞争，不再比拼单个零部件纸面参数，而是比拼整套架构协同、系统层面精准调优的综合实力。

SK海力士表示，公司将进一步深化与上下游客户、生态伙伴的早期协同，前置参与下一代AI系统规划，联合定义面向未来负载的内存技术规格，适配机柜级、数据中心级的新一代AI基础设施浪潮。