【国产AI服务器】全国产PCIE5.0交换板,替代博通89104/89144,支持海光、龙芯等平台
引言
随着国产 AI 服务器和工业计算平台的快速发展,对高带宽、低时延的 PCIe 互连方案的需求日益迫切。传统上,国内服务器往往依赖博通(Broadcom)89104/89144 等外资交换芯片实现 PCIe 5.0 互联,但受制于供应链和安全合规,国产替代方案成为行业关注焦点。本文将详细介绍 全国产 PCIe 5.0 交换板(基于 TL63104 控制芯片)的硬件结构、工作模式、接口布局以及性能表现,帮助读者快速了解该产品在 AI 计算、数据中心、高性能存储和工业实时控制等场景中的适用价值。
1. 硬件概览
1.1 实物图
从实物图可以看到,整块交换板采用标准 2U 机箱尺寸,板上布局紧凑,金手指(edge connector)与多种高速线缆连接器相结合,便于在服务器机框内直接插拔或通过外部线缆实现灵活扩展。
1.2 核心硬件配置
1.2.1 控制器芯片
- 型号:国产 TL63104
- PCIe 速率:支持 2.5GT/s、5GT/s、8GT/s、16GT/s、32GT/s,覆盖从 PCIe 1.x 到 PCIe 5.0 的全部标准。
- Lane 数量:96+8Lanes(即 96 条数据 Lane 加 8 条管理/控制 Lane),能够实现大规模并行互联。
- Group 结构:提供 6 个 x16 group 与 1 个 x8 group,每个 group 可配置 1~8 个端口。
- x16 group:支持 x16、x8、x4、x2 端口组合,满足不同带宽需求。
- x8 group:支持 x8、x4、x2、x1 端口组合,适用于低功耗或空间受限的子系统。
1.2.2 工作模式
| 模式 | 说明 | 关键特性 |
|---|---|---|
| Basic | 扩展 PCIe 接口,支持多级扩展 | 通过交叉开关(crossbar)实现非阻塞交换,适合单一 PCIe 域的扩展需求。 |
| NT(Non-Transparent Bridge) | 多 PCIe 域互联,支持 NTB、DMA | 适用于需要跨域 DMA 传输的高性能计算或存储系统。 |
| P2P(Peer-to-Peer) | 任意 DP(Device Port)间直接数据传输 | 大幅提升带宽利用率并降低传输时延,特别适合 AI 加速卡之间的高速互联。 |
1.2.3 关键功能
- 非阻塞 Crossbar:内部采用全交叉结构,确保任意端口之间的流量不受其他端口占用影响。
- 国产加密引擎:集成 SM2/SM3/SM4 加密算法,实现链路层数据加密,满足国产化安全合规要求。
- 热插拔:支持标准热插拔和暴力热插拔,提升系统维护便利性,尤其在高可用数据中心环境中价值突出。
2. 扩展接口详细说明
2.1 上行总线
- 接口类型:PCIe Gen5 x16
- 连接方式:金手指(edge connector),直接插入服务器主板的 PCIe 插槽,提供最高 32GT/s 单通道速率。
2.2 下行接口与连接器
| 数量 | 类型 | 规格 | 连接方式 |
|---|---|---|---|
| 1 | PCIe Gen5 x16 | 连接器型号 10146070-113Z0LF | 外接金手指 |
| 4 | PCIe Gen5 x16 | 连接器型号 G97V24332HR | 外接高速线缆 |
| 2 | PCIe Gen5 x4 | 连接器型号 G97V21352HR | 外接高速线缆 |
说明:金手指用于直接在机框内部实现高速互联,线缆连接器则提供灵活的外部扩展能力,可根据实际需求布置加速卡、NVMe SSD、FPGA 等功能卡。
3. 性能表现
- 单通道速率:支持 32GT/s(即每条 Lane 最高 32 吉比特每秒)。
- 聚合带宽:x16 组合下双向总带宽可达 128GB/s(即 64GB/s 方向 * 2),满足 AI 大模型训练、分布式存储等高吞吐场景的需求。
该性能指标直接对应 PCIe 5.0 规范的最高规格,且在国产芯片实现上保持与国际主流产品相同的带宽表现。
4. 适用场景
| 场景 | 典型应用 | 关键优势 |
|---|---|---|
| AI 计算与数据中心 | 多 GPU/TPU 加速卡互联、分布式训练 | 高带宽、低时延、支持 P2P 直接传输,提升模型训练效率 |
| 高性能存储解决方案 | NVMe SSD 叠加、存储阵列 | 128GB/s 双向带宽满足大规模 I/O 需求,支持 NTB 实现跨域 DMA |
| 工业实时控制 | 实时数据采集卡、PLC 扩展 | 稳定的热插拔、国产加密保证系统安全可靠 |
| 外接功能扩展卡 | FPGA、专用加速卡、网络卡 | 多种 Lane 配置灵活适配不同卡型,提供统一的 PCIe 5.0 接口平台 |
5. 与博通 89104/89144 的对比
| 项目 | TL63104 交换板 | 博通 89104/89144 |
|---|---|---|
| 芯片来源 | 完全国产(TL63104) | 外资(Broadcom) |
| PCIe 速率 | 支持 2.5~32GT/s(完整 PCIe 5.0) | 同样支持 PCIe 5.0 |
| Lane 数量 | 96+8Lanes | 96Lanes(无额外管理 Lane) |
| 加密 | 集成 SM2/SM3/SM4(国产算法) | 依赖标准 AES 等国际算法 |
| 热插拔 | 标准 + 暴力热插拔 | 仅标准热插拔 |
| 成本 & 供应链 | 本土化生产,成本可控,供应链更安全 | 受制于进口渠道,成本波动大 |
| 兼容性 | 完全兼容 PCIe 5.0 规范,支持多平台(海光、龙芯等) | 兼容性好,但受限于外资授权 |
从表中可以看出,TL63104 交换板在国产化、安全合规以及热插拔灵活性方面具备显著优势,而在核心带宽性能上保持与博通同等水平,足以满足高端服务器的需求。
6. 部署建议与注意事项
- 平台兼容性:在海光(Huawei Ascend)或龙芯(Loongson)平台上使用时,确保 BIOS/UEFI 已开启 PCIe 5.0 支持,并在系统固件中启用对应的 NTB 或 P2P 功能。
- 散热设计:PCIe 5.0 x16 在满负载时功耗可达 300 W 以上,建议在板上预留足够的散热片或风扇,以避免热降频。
- 线缆选型:对于外接线缆的 x16 端口,务必使用符合 PCIe 5.0 标准的高质量屏蔽线缆(如 CAT12.5 或等效规格),以保证信号完整性。
- 安全加密:若系统对数据保密性有严格要求,可在驱动层启用 SM2/SM3/SM4 加密引擎;对应的驱动程序已随硬件提供,需在操作系统中加载相应模块。
- 热插拔操作:在进行暴力热插拔时,建议先在操作系统层面将目标端口下线(如使用
lspci -s <bus:dev> -p关闭),再进行物理拔插,以降低异常中断的概率。
7. 小结
全国产 PCIe 5.0 交换板凭借 TL63104 控制芯片的高带宽、多模式支持以及国产加密安全特性,为 AI 服务器、数据中心和工业控制等关键场景提供了可靠的国产化互联方案。其在兼容性、性能和成本上均可与传统博通 89104/89144 相匹配,且在安全合规和供应链可控性上拥有独特优势。随着国产 AI 芯片(如海光 Ascend 系列)和国产 CPU(如龙芯)生态的不断壮大,这类交换板将成为构建完整国产化高性能计算平台的关键组件。
后续展望:我们将持续关注 TL63104 芯片的固件升级路径,期待在未来的版本中加入更丰富的 DMA 调度策略和更低功耗的休眠模式,为下一代边缘 AI 与工业互联网提供更强大的支撑。


