产棱拆解 | AI数据中心光电融合：从高速互联到下一代AI工厂的系统级革命
过去几年，AI基础设施的核心矛盾主要集中在“计算能力够不够”。
英伟达等公司不断提高GPU性能，增加GPU数量，再通过高带宽存储器把数据快速送入GPU。
但当AI集群从几千张GPU发展到数万张、几十万张甚至百万张GPU之后，问题发生了变化：
真正限制AI系统扩张的，不再只是GPU本身，而是GPU之间如何传输数据，以及整个系统如何供电和散热。
因此，AI数据中心正在从单纯的“芯片竞争”，逐渐演变成一个更加复杂的系统工程：
计算 → 存储 → 高速互联 → 光通信 → 封装 → PCB → 散热 → 电力
这意味着未来AI基础设施的产业机会，也不能再单独看GPU。
真正需要观察的是：
整个AI工厂中，当前最紧张的环节在哪里？这个瓶颈正在缓解还是正在恶化？瓶颈解决以后，下一个瓶颈会转移到哪里？
这才是理解AI基础设施长期产业趋势的核心方法。
二、AI工厂究竟是什么？很多人理解AI数据中心，会简单理解成：
建一个机房 → 放很多GPU → GPU越多，算力越强。
这种理解已经不够。
一个真正的大规模AI工厂，本质上是一个巨大的“数据处理与能量转换系统”。
GPU负责计算，但GPU并不是孤立工作的。
它需要不断：
- 从高带宽存储器读取数据；
- 与其他GPU交换数据；
- 与交换机通信；
- 将数据传输到其他服务器；
- 接收其他服务器的数据；
- 消耗大量电力；
- 同时产生大量热量。
因此，一个大型AI工厂实际上存在两个巨大的循环。
第一条循环：数据循环
GPU → 存储器 → 高速接口 → 光/电通信 → 交换机 → 光/电通信 → GPU
这是数据在整个AI系统中的流动过程。
第二条循环：能量与散热循环
电网 → 变电站 → 配电系统 → 服务器 → GPU → 热量 → 液冷系统 → 数据中心冷却设施
这是能源进入AI工厂、最终转化为计算能力和热量的过程。
因此：
AI工厂不是简单的“GPU堆积”，而是一个由数据流和能量流共同驱动的巨大物理系统。三、为什么光通信越来越重要？
要理解光通信的重要性，首先要理解GPU之间为什么需要高速通信。
假设一个AI训练任务使用10000张GPU。
这10000张GPU并不是10000台完全独立的机器。
它们需要不断交换：
- 模型参数；
- 梯度；
- 激活数据；
- 中间计算结果；
- 存储数据。
GPU计算得越快，需要交换的数据就越多。
于是产生了一个非常重要的问题：
GPU计算速度提高之后，数据能不能跟得上？
这就是所谓的“通信墙”。
四、传统电连接正在遇到物理极限目前芯片内部以及服务器内部，大量数据仍然通过电信号传输。
电信号通过铜线、封装基板、PCB等介质传播。
在低速情况下，这种方式非常有效。
但是随着传输速度不断提高，问题越来越明显。
主要包括：
1. 信号损耗
信号经过更长距离之后，会逐渐衰减。
传输速度越高，这个问题越严重。
2. 信号完整性下降
高速信号在传输过程中容易受到：
- 反射；
- 串扰；
- 阻抗变化；
- 材料损耗
等因素影响。
3. 功耗增加
为了让高速信号经过更长距离后仍然能够被正确识别，就需要越来越复杂的信号处理。
这会增加功耗。
4. 距离越来越成为问题
当GPU、交换芯片和服务器之间的通信距离不断增加时，单纯依靠高速电连接会越来越困难。
于是产生了一个非常重要的产业趋势：
当电连接越来越昂贵、越来越耗电、越来越难以继续提升时，光通信开始进入越来越核心的位置。五、光通信究竟解决了什么？
光通信最核心的优势，不是简单的“速度快”。
更重要的是：
光信号可以在较长距离上，以较低的能耗传输大量数据。
因此，AI系统正在逐渐形成一种分工：
短距离、高密度连接：继续使用电连接。
长距离、超高速连接：越来越多地使用光连接。
所以光通信并不是要把整个AI系统中的电全部替代掉。
真正发生的是：
电连接和光连接开始重新分工。六、AI数据中心中的完整数据路径
一个AI系统的数据传输，可以粗略理解成下面这条链：
GPU计算芯片
↓
芯片内部高速接口
↓
高速电信号传输
↓
电信号转换成光信号
↓
光模块 / 光学引擎
↓
光纤
↓
交换机
↓
光纤
↓
光模块 / 光学引擎
↓
电信号
↓
服务器内部高速接口
↓
GPU
这里面发生了一个非常重要的变化：
过去：
光模块主要位于服务器外部。
现在：
光学器件正在不断向交换芯片和计算芯片靠近。
这就是整个光电融合产业最重要的技术演进之一。
七、从传统光模块到共封装光学传统方式中：
交换芯片 → PCB → 电连接 → 光模块 → 光纤
光模块距离交换芯片还有一定距离。
随着交换芯片速度不断提升，这段电连接开始变得越来越困难。
因此出现了：
共封装光学
英文叫 CPO（Co-Packaged Optics，共封装光学）。
简单理解：
把光学器件直接放到交换芯片旁边，缩短交换芯片到光学转换之间的高速电连接距离。
过去：
交换芯片 —— 较长电连接 —— 光模块
现在：
交换芯片 —— 光学引擎
距离大幅缩短。
这样可以降低高速电连接带来的：
- 信号损耗；
- 功耗；
- 信号完整性问题。
因此，CPO并不是简单地“把光模块做得更小”。
它实际上改变的是：
光学转换的位置。八、为什么还会出现近封装光学？
CPO虽然能够解决高速电连接距离问题，但又产生了新的问题。
交换芯片本身非常热。
而激光器和部分光学器件对温度比较敏感。
于是产生了一个新的矛盾：
光学器件越靠近交换芯片，高速电连接越短，但热环境越恶劣。
因此出现了：
近封装光学
英文叫 NPO（Near-Packaged Optics，近封装光学）。
它的基本思路是：
让光学器件足够靠近交换芯片，但不一定和交换芯片完全封装在一起。
这样在：
高速连接距离
和
散热、可靠性、维护性
之间取得平衡。
所以CPO和NPO背后的共同逻辑其实很简单：
不断缩短高速电连接距离，但又不能忽略热和可靠性问题。九、下一步为什么会走向光学输入输出？
如果说CPO解决的是：
交换芯片和光学之间的距离问题。
那么更进一步的问题就是：
GPU和外部世界之间的高速电连接怎么办？
这就引出了：
光学输入输出
英文叫 Optical I/O，意思是“光学输入/输出”。
它的核心思想是：
把光学通信进一步靠近计算芯片。
传统GPU架构可以简单理解为：
计算芯片 → 封装 → PCB → 电连接 → 光模块 → 光纤
未来可能逐渐变成：
计算芯片 → I/O芯片 → 光学输入输出 → 光纤
也就是说：
光学通信开始从服务器外围向计算芯片内部迁移。十、为什么I/O芯片会越来越重要？
这里需要理解一个概念：
I/O芯片
英文叫 I/O Die。
可以把它理解成：
整个计算系统的数据交通枢纽。
计算芯片负责计算。
高带宽存储器负责给计算芯片提供大量数据。
而I/O芯片负责处理大量“进出系统”的数据。
它需要连接：
- 计算芯片；
- 高带宽存储器；
- PCIe等外部接口；
- 网络；
- 光学接口；
- 其他计算芯片。
随着AI系统规模扩大，I/O本身正在从一个“辅助功能”变成越来越重要的系统组成部分。
十一、高带宽存储器和光学输入输出，其实解决的是两个不同的问题这一点非常重要。
高带宽存储器解决的是：
计算芯片 ↔ 存储器
之间的数据速度问题。
光学输入输出解决的是：
计算芯片 ↔ 其他计算芯片 / 网络
之间的数据速度问题。
因此可以把它们理解成AI系统中的两条“数据高速公路”。
第一条高速公路
GPU ↔ 高带宽存储器
解决：
计算需要的数据能不能及时送到GPU？
第二条高速公路
GPU ↔ GPU / GPU ↔ 网络
解决：
不同GPU之间的数据能不能快速交换？
随着AI集群规模越来越大，这两条高速公路的重要性都会越来越高。
十二、为什么先进封装会成为核心？当计算芯片、高带宽存储器、I/O芯片、光学芯片越来越靠近以后，一个问题自然出现：
这么多不同功能的芯片，怎么把它们放在一起？
这就是先进封装解决的问题。
过去：
一个芯片 → 一个封装。
现在越来越接近：
多个芯片 → 一个系统。
这就是所谓：
芯粒
英文叫 Chiplet（芯粒）。
简单理解：
把原来一颗大型芯片拆成多个功能不同的小芯片，再通过先进封装重新组合起来。
例如：
计算芯粒
I/O芯粒
高带宽存储器
光子芯粒
↓
先进封装
↓
一个完整的AI计算系统
十三、为什么芯粒架构非常重要？因为不同功能最适合的制造工艺并不一样。
例如：
计算芯片可能需要最先进的逻辑制程。
I/O芯片可能不需要最先进制程。
光子芯片需要完全不同的材料和工艺。
激光器又可能需要另一套材料体系。
如果所有东西都做成一颗芯片：
制造难度非常高。
而芯粒架构允许：
不同功能使用不同工艺制造，然后通过先进封装组合起来。
这实际上是在改变整个芯片产业的组织方式。
十四、光子芯粒又是什么？光子芯粒
英文叫 Photonic Chiplet（光子芯粒）。
它不是普通的光模块，也不是简单的激光器。
它主要负责处理光信号。
里面可以包含：
- 光波导；
- 光调制器；
- 光耦合器；
- 分光器；
- 合波器；
- 分波器；
- 光探测器。
可以把它理解成：
负责处理“光”的芯片。
但是这里需要特别注意：
光子芯粒不等于激光器。
十五、激光器为什么是光通信产业中的特殊环节？光子芯片可以处理光。
但它本身不一定负责产生光。
因此还需要：
激光器
激光器负责：
产生稳定、高质量的光源。
而很多激光器使用的是砷化镓、磷化铟等化合物半导体材料。
这与传统硅芯片的制造体系并不完全相同。
因此未来很可能形成：
硅光子芯片
化合物半导体激光器
↓
混合/异质集成
这种架构。
这也是为什么光通信产业不能简单理解成“做一个光模块”。
它实际上涉及：
半导体 + 光学 + 激光 + 封装 + PCB + 光纤
多个产业。
十六、为什么激光器的位置可能发生变化？这里存在一个非常有意思的工程矛盾。
GPU、交换芯片越来越热。
而激光器又比较怕高温。
于是：
最适合高速通信的位置，不一定是最适合激光器的位置。
因此未来可能出现：
交换芯片 / GPU
↓
光子芯片
↓
外部激光源
这种设计。
也就是说：
光学功能可以靠近计算芯片，但激光器本身不一定必须和计算芯片完全贴在一起。
这实际上体现了未来光电融合的重要工程思想：
不是所有东西都越近越好，而是不同器件要找到最合适的物理位置。
十七、光学输入输出带来的真正变化如果未来光学输入输出越来越成熟，那么AI芯片的结构可能逐渐从：
计算芯片 + 高带宽存储器 + 封装 + PCB
演化成：
计算芯片 + 高带宽存储器 + I/O芯片 + 光学输入输出 + 先进封装
这意味着：
光通信开始从“网络设备的功能”，逐渐变成“计算芯片系统架构的一部分”。
这是一个非常重要的产业变化。
十八、PCB会不会因此消失？不会。
这是非常容易产生的误解。
光通信的发展并不意味着PCB失去价值。
因为AI系统仍然需要大量电连接。
例如：
- 电源；
- 控制信号；
- 管理信号；
- 低速通信；
- 部分高速通信；
- 芯片与其他器件之间的连接。
因此未来更可能出现：
高速长距离通信越来越光学化。
同时：
短距离以及电源、控制、管理等连接继续电气化。
因此PCB和高频覆铜板仍然非常重要。
十九、光通信与PCB不是简单的替代关系更准确的理解应该是：
电连接负责它最擅长的部分。
光连接负责它最擅长的部分。
随着高速通信需求不断增加：
电连接的压力越来越大。
于是：
一部分原来由电承担的高速通信任务，逐渐转向光。
因此光通信的增长，本质上是：
通信架构发生重新分工。
而不是：
光纤把PCB全部替代。二十、最终，AI工厂会形成六个核心系统
把整个产业重新拉远来看，可以把未来AI工厂理解成六个相互连接的系统。
第一：计算系统
核心是GPU、AI加速器等。
解决：
算得够不够快。
第二：存储系统
核心是高带宽存储器、DRAM等。
解决：
数据能不能及时供应给计算芯片。
第三：通信系统
核心是交换芯片、光模块、光学引擎、光纤、光子芯片等。
解决：
不同计算单元之间的数据能不能快速交换。
第四：电连接系统
核心是PCB、高频覆铜板、封装基板等。
解决：
芯片、封装、服务器之间如何完成高速和低速电连接。
第五：散热系统
核心是液冷、冷板、冷却液、CDU等。
CDU即冷却液分配装置，负责把冷却液送到不同服务器和设备。
解决：
GPU产生的巨大热量如何被带走。
第六：电力系统
核心包括：
电网 → 变电站 → 变压器 → UPS → 配电系统 → 服务器电源 → GPU
解决：
AI工厂有没有足够的电。二十一、AI工厂真正的六堵“墙”
把上面六个系统进一步抽象，可以得到六个核心约束。
第一堵墙：计算墙
GPU性能不够。
↓
需要更强计算芯片。
第二堵墙：存储墙
GPU算得太快，但数据供应跟不上。
↓
高带宽存储器需求增加。
第三堵墙：通信墙
GPU之间的数据交换速度跟不上。
↓
高速网络、交换芯片、光通信需求增加。
第四堵墙：光学与封装墙
高速通信继续提高以后：
↓
光学耦合、先进封装、光子芯片、激光器成为新的限制。
第五堵墙：散热墙
计算密度越来越高。
↓
单位机架功率越来越高。
↓
空气冷却越来越困难。
↓
液冷成为重要方案。
第六堵墙：电力墙
AI数据中心不断扩大。
↓
几十兆瓦。
↓
几百兆瓦。
↓
甚至更大的电力需求。
最终：
AI算力扩张可能受到电网容量限制。二十二、最重要的不是六条产业链，而是“瓶颈迁移”
这是理解整个AI产业最重要的一层。
假设：
2023年最大的瓶颈是GPU。
GPU产能增加以后：
↓
瓶颈转移到高带宽存储器。
高带宽存储器产能增加以后：
↓
瓶颈转移到先进封装。
先进封装扩产以后：
↓
高速通信开始成为问题。
高速通信继续提升以后：
↓
光学与封装成为瓶颈。
光学解决以后：
↓
散热成为瓶颈。
散热解决以后：
↓
电力开始成为瓶颈。
因此：
AI产业不是一个静态产业链，而是一条不断移动的瓶颈链。二十三、这才是AI基础设施最值得跟踪的变量
未来研究AI基础设施，不能只问：
GPU卖得好不好？
而应该不断问：
计算端
GPU需求是否继续增长？
计算集群规模是否扩大？
单颗芯片功耗是否继续提升？
存储端
高带宽存储器供应是否紧张？
堆叠层数是否继续增加？
先进封装是否成为限制？
通信端
交换芯片速度是否继续提高？
高速串行接口速度是否继续提高？
电连接距离是否继续缩短？
光通信渗透率是否提升？
光学端
光学耦合损耗是否下降？
激光器效率是否提高？
光学器件可靠性是否改善？
单位带宽能耗是否下降？
封装端
先进封装产能是否足够？
封装良率是否提升？
光、电、热、机械能否同时解决？
散热端
单机架功率是否继续提高？
液冷渗透率是否提升？
冷却系统是否出现新的瓶颈？
电力端
数据中心能否获得足够电力？
变电站和变压器是否成为限制？
电网扩容速度能否跟上AI数据中心建设速度？
二十四、真正需要观察的是“瓶颈在哪里”因此，AI产业研究最终可以从：
“哪个产业景气度最高？”
进一步升级成：
“当前AI工厂最紧张的物理环节是什么？”
再进一步：
“这个瓶颈正在恶化还是改善？”
然后：
“如果这个瓶颈被解决，下一个瓶颈最可能转移到哪里？”
最后：
“这个瓶颈如何传导到产业链和资产价格？”
这条链条才真正有意义：
物理现实
↓
工程变量
↓
产业状态
↓
产业瓶颈
↓
瓶颈变化
↓
产业传导
↓
资产表达
↓
下一阶段瓶颈
二十五、AI基础设施未来真正的竞争未来AI基础设施的竞争，不会简单变成：
谁拥有最多GPU。
而会逐渐变成：
谁能把计算、存储、通信、光学、封装、散热和电力组成一个效率最高的完整系统。
因此，未来真正的AI工厂竞争，本质上是：
计算效率
数据传输效率
封装效率
光电转换效率
散热效率
能源效率
的综合竞争。
最终决定AI系统扩张速度的，也不一定是最强的单个芯片，而可能是：
整个系统中最难解决的那个瓶颈。
这也是为什么未来研究AI基础设施，不能只盯着GPU。
真正需要持续追踪的是：
瓶颈在哪里、为什么出现、什么时候缓解、缓解以后又转移到哪里。
而这条“瓶颈迁移链”，将成为理解未来AI基础设施产业变化的重要主线。