规格参数
处理器
- NPU 算力
- 256 TOPS
存储
- 内存 / 显存
- 48 GB
接口与系统
- 视频与外设接口
- x16 PCIe Gen4, MLU-Link接口 4 ports, 16 Lanes, 50 Gbps
供电
- 典型功耗
- 250 W
基本信息
- 品牌
- 寒武纪
- 型号
- MLU370-X8
- 关键参数
- 7nm制程,48GB LPDDR5,256 TOPS (INT8),24 TFLOPS (FP32),250W最大热功耗,x16 PCIe Gen4
同类对比
| 规格 | 本品 · MLU370-X8 | PR210WI | reComputer Industrial J4012 | AGS-6220V2 | MLU370-X8 |
|---|---|---|---|---|---|
| 主控 | — | — | NVIDIA Jetson Orin NX 16GB 模组 | — | — |
| NPU | 256 TOPS | — | 100 TOPS | — | — |
| 内存 / 显存 | 48 GB | — | 16 GB | — | — |
| 参考单价 | 询价 | 询价 | 询价 | 询价 | 询价 |
| 库存 | — | — | — | — | — |
产品介绍
产品定位与形态:MLU370-X8 采用双芯思元370配置,为双槽位250W全尺寸智能加速卡,被动散热、全高全长形态,采购时需确认机箱槽位间距与散热风道。
算力与精度:峰值性能为256 TOPS(INT8)、128 TOPS(INT16)、96 TFLOPS(FP16)、96 TFLOPS(BF16)、24 TFLOPS(FP32),覆盖训练与推理的多种精度需求,其中官方强调训练算力口径为24 TFLOPS(FP32)、推理算力为256TOPS(INT8)。
内存与带宽:LPDDR5 内存容量 48GB,内存带宽 614.4 GB/s;相比标准思元370加速卡整合了双倍内存与编解码资源。
互联与扩展:搭载 MLU-Link 多芯互联技术,每卡可获得 200GB/s 聚合通讯带宽(官方称是 PCIe 4.0 带宽的 3.1 倍),支持单机八卡部署,可执行多芯多卡训练和分布式推理。
接口:系统接口为 x16 PCIe Gen4;MLU-Link 接口 4 ports、16 Lanes、50 Gbps。
编解码能力:视频解码支持 264 路 HEVC 全高清、编码 48 路 HEVC 全高清,最高可支持至 8K;图片编解码最高分辨率 16384x16384,全高清图片解码 8000 Frames/s、编码 6000 Frames/s。
软件生态:运行于寒武纪基础软件平台(Cambricon NeuWare/MagicMind,配套 CNCL 通讯库与 MLU370 SDK);官方口径为在 4 个常见 AI 模型上单卡性能与主流 350W RTX GPU 相当,8 卡环境达到更优并行加速比。
应用领域:官方列出视觉、语音处理、自然语言处理、搜索推荐、自动驾驶。
采购核验清单:确认服务器 PCIe Gen4 插槽与双槽位空间、250W 供电与被动散热风道、单机八卡互联布线,以及目标模型在寒武纪 SDK 上的适配版本。