Back to Blog

搭载算能 BM1684 芯片,面向AI推理计算加速卡

#人工智能#大数据

Sienovo(矽诺威)推出了一款高性能AI推理计算加速卡,该卡搭载了算能(Sophon)BM1684芯片,专为满足日益增长的边缘AI和工业计算需求而设计。本文将深入探讨这款加速卡的核心技术、卓越性能、广泛应用场景及其详细产品规格,帮助读者全面了解其在AI赋能各行各业中的关键作用。

算能BM1684芯片:AI推理核心引擎

这款AI推理计算加速卡的核心是算能BM1684芯片。BM1684是比特大陆旗下算能科技推出的一款高性能AI处理器,专为深度学习推理任务而优化。它集成了强大的AI计算单元、多媒体处理单元以及通用计算单元,旨在提供高效、低功耗的AI推理能力。

该芯片采用SOPHON(算能)自研的TPU(Tensor Processing Unit)核心架构,这是一种专门为神经网络计算设计的并行处理器架构,能够高效执行矩阵乘法和卷积等AI核心运算。卡上集成了多达64个NPU(Neural Processing Unit)核心,这些核心协同工作,为复杂的AI模型推理提供强大的并行计算能力。

除了专用的AI计算单元,BM1684还内置了一个强大的CPU集群——8核ARM Cortex-A53处理器,主频高达2.3GHz。这个CPU集群负责系统的控制、数据预处理、后处理以及通用任务,与TPU/NPU协同,形成一个完整的异构计算平台,确保数据流的顺畅和整体系统的高效运行。

卓越的AI算力表现

Sienovo的这款加速卡凭借BM1684芯片,展现出令人印象深刻的AI算力:

  • FP32 (单精度浮点) 算力:达到2.2 TOPS (万亿次浮点运算每秒)。FP32通常用于模型训练或对精度要求极高的推理场景。
  • INT8 (8位整型) 算力 (Winograd OFF):高达17.6 TOPS。INT8量化推理是当前AI部署的主流方式,它能在保持足够精度的前提下,大幅提升计算效率并降低功耗。
  • INT8 (8位整型) 算力 (Winograd ON):最高可达35.2 TOPS。Winograd是一种高效的卷积算法,通过数学变换减少卷积操作的计算量,进一步提升INT8推理的性能,尤其适用于图像处理等密集型卷积任务。

这些算力指标表明,该加速卡能够高效处理各类主流深度学习模型,无论是图像分类、目标检测、语义分割还是自然语言处理,都能提供快速、准确的推理结果。

强大的多媒体处理能力

在许多AI应用中,尤其是视频监控、智能交通等领域,对视频和图像的处理能力至关重要。BM1684芯片集成了高性能的VPU(Video Processing Unit)和JPU(JPEG Processing Unit),为AI推理提供强大的数据输入和输出支持。

视频处理能力 (VPU)

  • 视频解码能力
    • H.264编码格式:支持1080P分辨率下高达960fps的解码速度。
    • H.265编码格式:支持1080P分辨率下高达1000fps的解码速度。
    • 支持的视频解码分辨率范围广泛,包括CIF、D1、720P、1080P、4K (3840×2160)、8K (8192×4096),甚至高达8192×8192像素的超高分辨率视频。
  • 视频编码能力
    • H.264编码格式:支持1080P分辨率下70fps的编码速度。
    • H.265编码格式:支持1080P分辨率下60fps的编码速度。
  • 视频转码能力:支持最大18路1080P到CIF的视频转码,这对于多路视频流的实时处理和分发非常有用。

这些强大的视频处理能力使得该加速卡能够直接处理来自多个高清摄像头的视频流,进行实时解码、AI分析和编码输出,极大地减轻了主控CPU的负担,提升了整体系统的效率。

JPEG图片处理能力 (JPU)

  • JPEG图片解码能力:在1080P分辨率下,每秒可解码800张图片。
  • 最大分辨率:支持高达32768×32768像素的超大尺寸JPEG图片解码。

对于需要处理大量静态图像的AI应用,如人脸识别、图像检索等,JPU的加入确保了图片数据的快速加载和预处理,进一步优化了AI推理的整体流程。

系统集成与兼容性

Sienovo的这款AI推理计算加速卡在系统集成方面表现出色:

  • 系统接口:采用PCIe X16数据链路,以EP(Endpoint)工作模式运行。PCIe X16提供了高达32GB/s的双向带宽,确保了AI加速卡与主控CPU之间的高速数据传输,避免了数据瓶颈。
  • 内存规格:板载12GB LPDDR4内存。LPDDR4内存以其高带宽和低功耗特性,为AI模型和数据提供了充足且快速的存储空间,满足复杂模型对内存容量和速度的需求。
  • 功耗:典型功耗仅为21W,最大功耗30W。低功耗设计使其适用于对能耗敏感的边缘计算和工业环境。
  • 散热方式:采用主动散热方式,确保在-10℃至55℃的工作温度范围内稳定运行,并支持5%~95%(未凝结)的工作湿度。
  • 操作系统支持:兼容主流Linux发行版,包括Ubuntu、CentOS、Debian,以及国产操作系统UOS和麒麟,提供了广泛的软件生态支持。
  • 主控CPU支持:具有出色的兼容性,可与Intel、AMD等国际主流CPU平台无缝协作,同时全面支持飞腾、海光、申威、龙芯等国产CPU,满足不同客户的硬件部署需求。
  • 尺寸:产品尺寸(含支架)为169.1mm(W) x 68.9mm(H) x 19mm(D),标准的半高半长设计,方便集成到各种服务器和工控机中。

广泛的AI赋能应用场景

这款AI推理计算加速卡凭借其强大的性能和广泛的兼容性,能够高效适配市场上所有AI算法,为多个关键领域提供AI赋能:

  • 智慧城市:在城市管理中,可用于视频监控的智能分析,如异常行为检测、人流统计、车辆识别,提升城市运行效率和安全性。
  • 智慧交通:应用于交通路口监控、车牌识别、交通流量预测、违章检测等,优化交通管理,缓解交通拥堵。
  • 智慧能源:在电力、石油、天然气等能源行业,可用于设备状态监测、故障预测、巡检机器人视觉分析,提高运营效率和安全性。
  • 智慧金融:在银行、证券等领域,可支持人脸识别支付、身份核验、异常交易行为分析,保障金融安全。
  • 智慧电信:在通信基站、数据中心等基础设施中,可用于设备运行状态监测、网络流量分析、异常告警,提升运维效率。
  • 智慧工业:在智能制造、工业自动化中,可实现产品缺陷检测、生产线监测、机器人视觉导航,提高产品质量和生产效率。

通过将这款加速卡集成于服务器、工控机等平台,Sienovo能够帮助客户快速部署和运行各种AI应用,实现视频结构化、人脸识别、行为分析、状态监测等复杂任务,从而推动各行各业的智能化升级。

总结

Sienovo搭载算能BM1684芯片的AI推理计算加速卡,是一款集高性能AI算力、强大多媒体处理能力、低功耗和广泛兼容性于一体的边缘AI解决方案。它不仅能够提供卓越的深度学习推理性能,还能有效处理海量视频和图像数据,为智慧城市、智慧交通、智慧工业等多个领域提供坚实的AI算力支撑。随着AI技术在各行各业的深入应用,这款加速卡无疑将成为推动产业智能化发展的重要引擎。