Back to Blog

【国产AI服务器】全国产PCIE5.0交换板,替代博通89104/89144,支持海光、龙芯等平台

#服务器#运维

引言

随着国产 AI 服务器和工业计算平台的快速发展,对高带宽、低时延的 PCIe 互连方案的需求日益迫切。传统上,国内服务器往往依赖博通(Broadcom)89104/89144 等外资交换芯片实现 PCIe 5.0 互联,但受制于供应链和安全合规,国产替代方案成为行业关注焦点。本文将详细介绍 全国产 PCIe 5.0 交换板(基于 TL63104 控制芯片)的硬件结构、工作模式、接口布局以及性能表现,帮助读者快速了解该产品在 AI 计算、数据中心、高性能存储和工业实时控制等场景中的适用价值。

1. 硬件概览

1.1 实物图

从实物图可以看到,整块交换板采用标准 2U 机箱尺寸,板上布局紧凑,金手指(edge connector)与多种高速线缆连接器相结合,便于在服务器机框内直接插拔或通过外部线缆实现灵活扩展。

1.2 核心硬件配置

1.2.1 控制器芯片

  • 型号:国产 TL63104
  • PCIe 速率:支持 2.5GT/s、5GT/s、8GT/s、16GT/s、32GT/s,覆盖从 PCIe 1.x 到 PCIe 5.0 的全部标准。
  • Lane 数量:96+8Lanes(即 96 条数据 Lane 加 8 条管理/控制 Lane),能够实现大规模并行互联。
  • Group 结构:提供 6 个 x16 group 与 1 个 x8 group,每个 group 可配置 1~8 个端口。
    • x16 group:支持 x16、x8、x4、x2 端口组合,满足不同带宽需求。
    • x8 group:支持 x8、x4、x2、x1 端口组合,适用于低功耗或空间受限的子系统。

1.2.2 工作模式

模式说明关键特性
Basic扩展 PCIe 接口,支持多级扩展通过交叉开关(crossbar)实现非阻塞交换,适合单一 PCIe 域的扩展需求。
NT(Non-Transparent Bridge)多 PCIe 域互联,支持 NTB、DMA适用于需要跨域 DMA 传输的高性能计算或存储系统。
P2P(Peer-to-Peer)任意 DP(Device Port)间直接数据传输大幅提升带宽利用率并降低传输时延,特别适合 AI 加速卡之间的高速互联。

1.2.3 关键功能

  • 非阻塞 Crossbar:内部采用全交叉结构,确保任意端口之间的流量不受其他端口占用影响。
  • 国产加密引擎:集成 SM2/SM3/SM4 加密算法,实现链路层数据加密,满足国产化安全合规要求。
  • 热插拔:支持标准热插拔和暴力热插拔,提升系统维护便利性,尤其在高可用数据中心环境中价值突出。

2. 扩展接口详细说明

2.1 上行总线

  • 接口类型:PCIe Gen5 x16
  • 连接方式:金手指(edge connector),直接插入服务器主板的 PCIe 插槽,提供最高 32GT/s 单通道速率。

2.2 下行接口与连接器

数量类型规格连接方式
1PCIe Gen5 x16连接器型号 10146070-113Z0LF外接金手指
4PCIe Gen5 x16连接器型号 G97V24332HR外接高速线缆
2PCIe Gen5 x4连接器型号 G97V21352HR外接高速线缆

说明:金手指用于直接在机框内部实现高速互联,线缆连接器则提供灵活的外部扩展能力,可根据实际需求布置加速卡、NVMe SSD、FPGA 等功能卡。

3. 性能表现

  • 单通道速率:支持 32GT/s(即每条 Lane 最高 32 吉比特每秒)。
  • 聚合带宽:x16 组合下双向总带宽可达 128GB/s(即 64GB/s 方向 * 2),满足 AI 大模型训练、分布式存储等高吞吐场景的需求。

该性能指标直接对应 PCIe 5.0 规范的最高规格,且在国产芯片实现上保持与国际主流产品相同的带宽表现。

4. 适用场景

场景典型应用关键优势
AI 计算与数据中心多 GPU/TPU 加速卡互联、分布式训练高带宽、低时延、支持 P2P 直接传输,提升模型训练效率
高性能存储解决方案NVMe SSD 叠加、存储阵列128GB/s 双向带宽满足大规模 I/O 需求,支持 NTB 实现跨域 DMA
工业实时控制实时数据采集卡、PLC 扩展稳定的热插拔、国产加密保证系统安全可靠
外接功能扩展卡FPGA、专用加速卡、网络卡多种 Lane 配置灵活适配不同卡型,提供统一的 PCIe 5.0 接口平台

5. 与博通 89104/89144 的对比

项目TL63104 交换板博通 89104/89144
芯片来源完全国产(TL63104)外资(Broadcom)
PCIe 速率支持 2.5~32GT/s(完整 PCIe 5.0)同样支持 PCIe 5.0
Lane 数量96+8Lanes96Lanes(无额外管理 Lane)
加密集成 SM2/SM3/SM4(国产算法)依赖标准 AES 等国际算法
热插拔标准 + 暴力热插拔仅标准热插拔
成本 & 供应链本土化生产,成本可控,供应链更安全受制于进口渠道,成本波动大
兼容性完全兼容 PCIe 5.0 规范,支持多平台(海光、龙芯等)兼容性好,但受限于外资授权

从表中可以看出,TL63104 交换板在国产化、安全合规以及热插拔灵活性方面具备显著优势,而在核心带宽性能上保持与博通同等水平,足以满足高端服务器的需求。

6. 部署建议与注意事项

  1. 平台兼容性:在海光(Huawei Ascend)或龙芯(Loongson)平台上使用时,确保 BIOS/UEFI 已开启 PCIe 5.0 支持,并在系统固件中启用对应的 NTB 或 P2P 功能。
  2. 散热设计:PCIe 5.0 x16 在满负载时功耗可达 300 W 以上,建议在板上预留足够的散热片或风扇,以避免热降频。
  3. 线缆选型:对于外接线缆的 x16 端口,务必使用符合 PCIe 5.0 标准的高质量屏蔽线缆(如 CAT12.5 或等效规格),以保证信号完整性。
  4. 安全加密:若系统对数据保密性有严格要求,可在驱动层启用 SM2/SM3/SM4 加密引擎;对应的驱动程序已随硬件提供,需在操作系统中加载相应模块。
  5. 热插拔操作:在进行暴力热插拔时,建议先在操作系统层面将目标端口下线(如使用 lspci -s <bus:dev> -p 关闭),再进行物理拔插,以降低异常中断的概率。

7. 小结

全国产 PCIe 5.0 交换板凭借 TL63104 控制芯片的高带宽、多模式支持以及国产加密安全特性,为 AI 服务器、数据中心和工业控制等关键场景提供了可靠的国产化互联方案。其在兼容性、性能和成本上均可与传统博通 89104/89144 相匹配,且在安全合规和供应链可控性上拥有独特优势。随着国产 AI 芯片(如海光 Ascend 系列)和国产 CPU(如龙芯)生态的不断壮大,这类交换板将成为构建完整国产化高性能计算平台的关键组件。

后续展望:我们将持续关注 TL63104 芯片的固件升级路径,期待在未来的版本中加入更丰富的 DMA 调度策略和更低功耗的休眠模式,为下一代边缘 AI 与工业互联网提供更强大的支撑。