一、开篇介绍
今天这篇文章，想和大家聊一个比 Agent 更底层的话题：
到底是什么样的硬件和系统架构，在支撑现在越来越流行的 AI Agent 应用？
很多人一听到大模型训练慢、推理卡，第一反应通常是：
是不是高端芯片不够？
这个判断当然没错，但只说对了一半。
我在 2026 开放计算大会听完一整轮分享后，有一个很明显的感受：行业里已经形成了一个共识，真正卡住 Token 产出效率的，不只是算力，还有互连网络。
换句话说，AI 基础设施的竞争，已经不是简单地看谁的芯片更多、单卡更强，而是看整个数据中心能不能像一台巨型计算机一样稳定协同。
这次大会，我主要带着 3 个问题去听：
- 大家都说 AI 拼算力，为什么今年越来越多人开始聊互连？AI 工厂到底发生了什么变化？
- CPO、NPO、XPO 这些光互连概念热度很高，面向 3.2T 网络的 448G 高速铜互连也在加速演进，真实场景里到底该选光，还是选铜？
- 万卡集群、兆瓦级机柜和超节点加速落地之后，互连链路最大的工程难点是什么？行业又在靠哪些方案解决？
这篇文章就围绕这 3 个问题展开。
如果你关心 AI 基础设施、智算中心、Agent 应用的底层支撑，看完这篇文章，至少能搞明白一件事：
下一代 AI 数据中心的底层逻辑，到底变在哪儿。
二、行业背景铺垫：AI 基础设施正在从“堆芯片”走向“建工厂”
前两年，大家聊 AI 基础设施，重点基本都放在单卡算力、大模型参数和高端芯片上。
谁的 GPU 更多，谁的 FLOPS 更高，谁能拿到更稀缺的加速卡，这些当然都很重要。
但这次大会给了一个更明确的判断：
AI 基础设施已经不只是“堆芯片”，而是进入了“建工厂”的阶段。
以前我们看的是单张卡有多强，FLOPS，也就是每秒浮点运算次数有多高。
现在更关键的是，整个系统能不能稳定、高效地产出 Token。这里的 Token，可以简单理解成模型生成文本、代码、推理步骤时的基本单位。
说白了，以前比的是你手里有没有好枪、有没有特种兵；现在比的是综合作战能力。
飞机、大炮、卫星、战舰、后勤系统，全都要配合起来，才是真正的战斗力。
AI 数据中心也是一样。
当上千张 XPU，也就是 GPU、NPU 等 AI 加速芯片一起训练时，它们之间需要不停交换海量数据。只要网络带宽不够、延迟不稳定，或者某一条链路出故障，整个训练任务都会被拖慢。
严重的时候，任务甚至会直接中断。
所以你会发现，这次大会不管是主论坛，还是数据中心基础设施分论坛、GW 级智算分论坛，核心都绕不开一个词：
互连。
这也正好对应我前面提到的 3 个问题。
下面我们一个一个拆开看。
三、核心主体：三个问题，讲清楚 AI 数据中心的互连变化
模块 1｜AI 从堆芯片到建工厂，互连为什么变成核心瓶颈？
先看过去的老模式。
早期做模型训练，规模还没有现在这么夸张，很多时候是小规模 GPU 单机训练，或者几台服务器一起跑。
在这个阶段，数据来回传输的压力没有那么大。行业关注的重点，也自然集中在单卡性能和单机性能上。
但随着集群规模不断扩大，网络对整体效率的影响开始变得越来越明显。
到了今天的大规模训练和推理场景，互连带宽、时延、抖动和链路可靠性，都会直接影响系统效率。
如果再进入 Agent 场景，这个影响还会被放大。
因为 Agent 往往不是一次调用就结束，而是多轮调用、多工具协同、多步骤推理。底层每慢一点，上层体验都会被层层放大。
现在，头部云服务商和大型用户正在把 AI 集群推向万卡、十万卡，甚至 GW 级智算中心规模。
芯片和芯片之间，服务器和服务器之间，机柜和机柜之间，集群和集群之间，每时每刻都在交换海量数据。
这个时候，网络就不再是配角了。
带宽够不够、时延低不低、抖动稳不稳，都会影响模型训练速度和推理吞吐。
如果网络拖后腿，前面的芯片再强，算力也释放不出来。
这次大会上有一个非常重要的观点：
未来的数据中心，本质上就是一台巨型计算机。
这句话很关键。
它意味着网络决定的，已经不只是连接效率，而是整个 AI 工厂的算力上限。
所以现在行业正在重构三层互连架构：
- Scale-Up，机柜内互连：解决单个机柜内部如何把算力吃满。
- Scale-Out，跨机柜互连：解决不同机柜之间如何高效协同。
- Scale-Across，全域互连：解决更大范围的数据中心和集群之间如何统一调度。
这不是概念炒作，已经有真实落地案例。
大会上提到的百度天池超节点、字节兆瓦级算力系统，本质上都是通过新的互连架构，把原本分散的芯片、服务器和机柜组织成一个整体，尽可能释放全部算力。
浪潮信息：从服务器视角看 Agent 时代的基础设施变化
这次大会里，我印象比较深的一个展位是浪潮信息。
他们展台上的产品很有代表性，现场分享也把 Agent 时代服务器的变化讲得比较透。
我看到了面向 Agent 规模化运行的 CPU 原生液冷整机柜服务器，也看到了面向多模融合打造的元脑 SD200 超节点 AI 服务器。
其中比较亮眼的一点是，这款超节点服务器可以把 Kimi K2.6 这类万亿参数级模型的推理延迟压到 5 毫秒以内。
如果你是中小企业，想自己搭建一个小型算力中心，浪潮信息也推出了元脑 SD200 企业版，部署门槛会更友好一些。
所以这一节的核心不是“芯片不重要了”，而是：
只拼单点芯片已经不够了。Agent 时代真正要看的，是芯片、服务器、机柜和网络能不能组成一套高效协同的系统。
当我们明确互连已经成为重中之重后，就会自然进入第二个问题：
到底是光互连更好，还是铜互连更好？
模块 2｜CPO/NPO/XPO 和 448G 高速铜互连同时发展，光和铜到底该怎么选？
这次大会给出的结论很清楚：
未来不是“光互连取代铜互连”，而是光和铜各有各的位置。
简单说，就是：
短距离多用铜，长距离多用光。
先看短距离场景：铜互连依然很有优势
在机柜内部，比如芯片和芯片之间、服务器内部，或者整机柜里的短距离连接，高速铜缆依然是优先选择。
原因很直接：
- 铜缆在短距离内延迟低；
- 成本相对更低；
- 现场维护更方便；
- 整体功耗也更有优势。
比如 224G、448G 高速铜缆，有源电缆、信号重定时芯片、近芯片连接方案，本质上都是为了解决短距离高速传输问题。
所以像 AI 整机柜、超节点内部这种靠近芯片的连接，用铜反而更合适。
再看长距离场景：光互连的优势会更明显
到了跨机柜、跨集群这类更远距离的连接，光互连的优势就出来了。
因为距离一长，数据量一大，铜缆就会遇到损耗、功耗和布线难度的问题。
这个时候，就需要用光互连来解决远距离、高密度、大带宽传输。
比如 NPO、CPO、XPO，本质上都是围绕这个方向演进。
这里不用被这些名字吓到，可以先这样理解：
CPO，共封装光学：
把光模块和交换芯片封装得更近。
NPO，近封装光学：
让光模块靠近芯片，但没有完全封装到一起。
XPO，高密度可插拔光学：
在带宽密度和运维便利之间寻找平衡。
它们之间不是绝对的谁取代谁，关键还是看散热、维护、成本和部署难度。
最后看带宽升级：448G 会成为重要基础
现在 1.6T 以太网正在推进落地，后续网络也会继续向 3.2T 演进。
在这个过程中，448G 高速串行收发技术，会成为这一代网络升级的关键基础。
所以这一节你只要记住一句话：
短距离看铜，长距离看光；真正的趋势不是谁替代谁，而是光和铜一起配合，把 AI 数据中心的网络能力继续往上推。
模块 3｜超节点大规模落地后，互连最大的工程难题是什么？
这里还有一个很容易被忽略的行业痛点。
很多人一聊互连，第一反应就是：
速度是不是更快了？带宽是不是更高了？
但真正到了超节点机柜里，麻烦往往不只在速度上，而是在一堆非常具体的工程问题上。
比如：
- 线缆怎么走；
- 连接器稳不稳；
- 信号会不会衰减；
- 链路出了问题怎么排查；
- 后期维护会不会非常麻烦。
这些问题，才是大规模商业化落地时最难啃的部分。
这次大会重点提到了 3 个工程难题。
第一个问题：高速信号为什么这么难传？
到了 448G 这种级别，信号频率非常高，很容易互相干扰，也更容易衰减。
这就对线缆、连接器和制造工艺提出了非常高的要求。
不是说理论上能跑通就行，而是每一根线、每一个接口，都要尽可能稳定、一致。
否则在实验室里看起来没问题，到了真实大规模集群里，就可能变成很难定位的稳定性问题。
第二个问题：链路一多，坏了怎么找？
在万卡集群里，连接链路数量非常夸张。
只要其中一条链路出问题，整个训练任务就可能被拖慢。
最麻烦的是，如果还靠人工一点点排查，时间成本会非常高。
你不是在找一根坏线，而是在一张巨大的网络里找问题点。
第三个问题：机柜里面还能塞得下吗？
超节点机柜里的设备密度非常高。
线缆越多，空间越紧张。
空间一紧张，就会影响散热，也会影响后期检修。
设备坏了不好换，线缆乱了不好查，这些都会直接影响系统稳定性。
那行业现在靠什么方案解决这些问题？
第一，从硬件底层开始优化
比如使用 224G、448G 专用线缆背板、靠近芯片的短距离线缆，以及更高性能的精密连接器。
简单说，就是先把线缆和接口这些基础件做好，让高速信号能稳定跑起来。
这一步看起来不够“炫”，但非常关键。
因为 AI 工厂不是跑一次 Demo，而是要长时间、持续、高负载运行。
第二，用信号补偿设备修复损耗
比如信号重定时芯片、有源电缆这类设备，可以理解成给高速信号做一次“整理”和“增强”。
信号跑远了、变弱了、变形了，就通过这些设备把它拉回到可用状态。
这类技术的价值，不只是提高速度，而是提高链路在真实环境里的可用性。
第三，用智能诊断系统做运维保障
以前链路出问题，可能要靠工程师一根一根查。
现在大型 AI 集群更需要系统自动定位故障链路，快速告诉你问题出在哪。
这样一来，运维成本才能降下来，训练任务也不容易因为一条链路的问题被长时间拖住。
所以这一节的核心其实很简单：
高速互连真正难的，不只是把速度做上去，而是让成千上万条链路长期稳定、好维护、出问题能快速定位。
最后总结
这次 2026 开放计算技术大会，我最大的感受是：
Agent 时代，AI 基础设施的竞争，已经从单点拼芯片，进入到系统拼能力的阶段。
真正决定下一代 AI 数据中心效率的，不只是算力，还有互连。
短距离用铜，长距离用光；机柜内要 Scale-Up，跨机柜要 Scale-Out，更大范围还要 Scale-Across。
超节点、万卡集群、兆瓦级机柜、智能运维，这些看起来很底层的东西，正在重新定义 AI 工厂的基础架构。
如果你也关心 AI 基础设施、智算中心和未来算力网络的发展，我建议可以继续关注开放计算相关的官方信息。
很多趋势，只有把论坛分享、展区产品和真实工程问题放在一起看，才会真正有感觉。
最后用一句话收束：
下一代 AI 数据中心，比拼的不只是有多少芯片，而是谁能把算力、网络、散热、运维和系统架构真正组织成一座高效运转的 AI 工厂。
留言
留言