在美国东部时间10月21日，全球备受期待和权威的AI基准测试MLPerf宣布了今年的推理测试列表。浪潮AI服务器NF5488A5一口气创造了18条性能记录，远远领先于其他制造商。数据中心AI产品中的推理性能。 MLPerf是目前全球最具影响力的AI计算基准评估组织。它是由图灵奖得主大卫·帕特森（David Patterson）与Google，斯坦福大学，哈佛大学和其他部门合作建立的。它每年组织全球AI培训和AI。推理性能测试并发列表。 MLPerf AI推理基准测试涉及全球23家公司和单位，参与了数据中心和边缘场景中AI计算产品的性能比较。今年的MLPerf培训名单已于7月公布。浪潮NF5488A5在数据中心AI性能方面获得了绝对优势。浪潮NF5488A5一口气创造了18条MLPerf推理性能记录，成为记录数量最多的AI服务器。在今年的测试中，数据中心AI性能受到了最多的关注，所有参与组织都提交了507个性能测试数据。浪潮NF5488A5在22个数据中心竞赛中创造了13条性能记录，以绝对优势领先，而NVIDIA DGX已获得5条数据中心性能记录。在以前的MLPerf培训列表中，NF5488A5在核心Resnet50培训任务中也创下了性能记录，其独立性能位居榜首。浪潮NF5488A5创建18条MLPerf推理性能记录。性能已大大提高了3倍。此基准测试强调了全栈AI功能的优势。浪潮AI服务器NF5488A5在开放优化（Open）和固定任务（Closed）ResNet50基准测试性能中均表现良好，并且在2019年MLPerf推理列表中服务器的最佳性能已提高了3倍。 MLPerfResNet50推理性能2019VS2020与NF5488A5是浪潮开发的新一代AI服务器。它是此次MLPerf全球竞争中唯一的AI服务器，可以在4U空间中支持8安培架构A100芯片，以实现NVLink高速互连。浪潮NF5488A5在系统拓扑中采用超低延迟设计，支持PCIe4.0全链路极端优化，高频通信单元最近采用一级拓扑进行连接，从而最大限度地提高了处理器与处理器之间的通信性能。 AI芯片同时，将NUMA节点配置为确保每个处理器与其直接连接的GPU之间的最佳通信性能，并最大程度地减少通信延迟。另外，NF5488A5通过对系统结构的深入优化设计，确保了设备在高温环境下也能稳定运行。在此基准测试中，浪潮展示了出色的AI计算软件和硬件协作优化功能。在硬件层面，通过对CPU和GPU硬件性能的精细校准和全面优化，CPU性能，GPU性能以及CPU和GPU之间的数据路径都处于AI推理的最佳状态；在软件级别，结合GPU硬件拓扑多GPU的循环调度优化使单卡到多卡的性能达到近似线性扩展。在深度学习算法方面，结合GPUTensorCore单元的计算特性，自行开发的通道压缩算法已成功实现了模型的最终性能优化。性能几乎提高了2倍，而且没有损失。每台服务器的MLPerfAI推理性能的比较（基于浪潮NF5488A5，越高越好）浪潮是全球领先的AI计算领导者，其在中国的AI服务器市场份额已连续三年保持在50％以上。浪潮致力于AI计算平台，资源平台和算法平台的研发和创新，并通过元脑生态系统和AI领先公司推动AI工业化和工业AI进程。