光模块行业深度报告
光模块速率由网卡决定,网卡的速率受限于 PCIe 通道速率。英伟达 A100 的 DGX 服务器内部通过 NVLink3 连接,单向带宽为 300GB/s,但是 A100 GPU 连接 ConnectX-6 网卡是通过 16 个 PCIe 4.0 通道,带宽总和为 200G 左右,因此网卡带宽为 200G,需要连接 200G 的光模块或者 DAC 电缆。H100 的 DGX 服务器内部通过 NVLink4 连接,单向带宽为 450GB/s,但是 H100 GPU 连接 ConnectX-7 网卡是通过 16 个 PCIe 5.0 通道,带宽总和为 400G 左右,因此单个网卡带宽为 400G。可以看出,光模块速率是由于网卡与 GPU 之间的 PCIe 带宽所决定。假设 A100 和 H100 的 DGX 服务器内部所用 PCIe 通道速率达到 800G(即 PCIe 6.0),那么也可以采用 800G 带宽 的网卡,即也可以采用 800G 光模块,大大提升系统计算效率。