第 2.6 章|互连与网络
一座 AI 集群不是很多台电脑,而是要让数万颗芯片像一台电脑那样协同。计算越快,等待通信的代价越高,网络因此从配套设备变成决定有效算力的核心部件。
两张网络
互连分为两层:
- Scale-up 在单机架或紧密系统内部连接几十颗加速器,要求极低延迟和极高带宽。Nvidia 的 NVLink/NVSwitch 是当前主导方案。
- Scale-out 连接数据中心内的成千上万个机架。竞争发生在 InfiniBand、Spectrum-X 与开放以太网之间。
训练任务需要频繁同步参数,网络拥塞会让昂贵 GPU 空等。推理集群更重视吞吐、延迟和成本,通常更容易采用标准以太网。随着集群从万卡走向十万卡,光模块、交换芯片、网卡、线缆和网络软件在系统 BOM 中的占比持续提高。
一个超过 250 亿美元的供应市场
行业预计,到 2028 年数据中心 AI 网络厂商收入将超过 250 亿美元。这个口径只计算供应商收入,比把全部数据中心网络都算入的巨大“TAM”更有意义。
| 企业 | 证券 | 位置 |
|---|---|---|
| Nvidia | NVDA | NVLink、InfiniBand、Spectrum-X,端到端闭环 |
| Broadcom | AVGO | Tomahawk 交换芯片、Scale-Up Ethernet、共封装光学 |
| Arista | ANET | 大规模以太网交换机与软件 |
| Marvell | MRVL | 定制互连、DSP 与光电芯片 |
| Astera Labs | ALAB | Retimer 与连接芯片 |
| Credo | CRDO | 有源电缆与高速 SerDes |
| Coherent、Lumentum | COHR、LITE | 激光器与光学元件 |
| Fabrinet | FN | 光模块制造 |
专有整合与开放标准之争
Nvidia 的优势是网络与 GPU、软件共同设计。客户用同一套工具部署,更容易获得前沿性能,也更难切换。开放阵营则希望以 Ultra Ethernet、UALink 和 Scale-Up Ethernet 把不同芯片、交换机与光模块组合起来,降低供应商锁定。
开放标准发布不等于成熟系统。它还需要通过大规模互操作、拥塞控制、故障恢复和软件调优。真正的拐点不是联盟成员增加,而是十万卡级生产集群稳定运行,并且总拥有成本明显低于专有方案。
光学正在靠近芯片
电信号在高速、长距离下功耗和损耗快速上升,系统因此从铜缆转向光纤。下一步是共封装光学(CPO):把光学引擎放到交换芯片附近,减少电连接距离,降低功耗并提高带宽密度。
CPO 会增加激光器、硅光、封装与测试内容,但不保证所有供应商都提高利润。模块功能可能被整合进交换系统,价值从可插拔模块转向激光、晶圆级光学、先进封装或系统厂商。投资者需要追踪单位端口内容与供应商议价,而不是只看光学总用量。
Broadcom 为什么接近“两边都赢”
若 Nvidia 的专有体系继续主导,Broadcom 仍可从云厂商定制 ASIC、传统网络和光学中受益;若开放以太网扩大,Tomahawk、Scale-Up Ethernet 和 CPO 会直接增加其内容。它并非无风险:少数大客户、项目节奏和高估值都可能压缩回报,但在架构选择上比单一方案更分散。
Arista 更纯粹地押注 scale-out 以太网;Astera、Credo、Coherent、Lumentum 和 Fabrinet 分别押注连接与光学内容增长。越靠近零部件,增长弹性越大,价格竞争和客户集中也越明显。
中国网络:用规模弥补单点差距
中国大型集群必须连接更多性能较低的加速器,因此网络效率格外重要。华为以 CloudMatrix、灵衢等系统把昇腾节点扩展为超大集群,并依靠自有交换设备和软件做系统优化。国产光模块、交换机和通信设备供应链较完整,但高端 SerDes、先进交换芯片和大规模软件仍是难点。
这形成一个看似矛盾的需求:芯片越受限,系统越需要网络;但更高网络内容也会提高功耗、故障点和建设成本。评估中国 SuperPoD 时,不能把“更多卡”直接当成“更多有效算力”。
投资判断:看有效利用率,而不是理论带宽
网络层的价值最终体现在 GPU 是否少等待。最重要的指标包括:
- 网络在整机架和数据中心 BOM 中的占比;
- 大规模集群的实际利用率与故障恢复;
- 800G/1.6T 光模块与 CPO 的量产时间;
- 以太网在前沿训练中的真实部署,而非标准发布;
- 云厂商自研网络对商用交换机的替代;
- 激光、DSP、模块与系统厂商之间的利润分配。
Nvidia 的网络护城河会在开放方案能以更低成本稳定运行十万卡集群时松动。反之,若集群规模继续增长而故障与拥塞更难管理,端到端整合的价值反而会提高。