第 10轮MLPerf®Inference结果发布，仅在v6.0这一轮中，HPE不仅横跨广泛的AI工作负载测试夺得了18项第 一名，还提交了总计862项结果。

从大语言模型基准测试到边缘性能测试，再到能效测试，HPE ProLiant服务器持续为真实世界的AI推理树立行业标准。

HPE ProLiant Compute 的Llama性能

我们的产品HPE ProLiant Compute DL380a Gen12在以Llama为重点的测试中斩获了8项第 一名，在Llama3.1-8B交互式基准测试中，性能比次优系统高出29%，并在六个不同的Llama场景中超过竞品。此外，配备四块英伟达GPU的HPE ProLiant DL385 Gen11在Llama基准测试中获得了4项第 一名，并且在Llama3.1-8B基准测试中与DL380a类似，性能比次优提交高出24%。

HPE ProLiant DL385 Gen11在语音转文本测试中持续保持强大

在的Llama基准测试表现之上，HPE ProLiant DL385 Gen11在语音转文本工作负载中展现了持续的统治力。在MLPerf^®Inference v5.1中，DL385 Gen11在Whisper语音转文本基准测试中夺得第  一名，为准确性和吞吐量设定了高标准。这一势头延续到了此次新的v6.0轮次，DL385 Gen11再次证明了其实力，以每秒4712个样本的表现超过了四个竞争系统，在两GPU配置下实现了每GPU每秒2356个样本^¹³。这些结果进一步证明了：DL385 Gen11作为高 效、高性能解决方案，是AI驱动型语音识别应用客户的理想之选。

HPE ProLiant DL385：能效与性能兼备

可持续性和能效对于AI部署日益关键，而HPE ProLiant DL385 Gen11两者兼具。在近乎对等的配置下，DL385 Gen11中的GPU功耗被限制在至高450瓦，而竞品使用的GPU运行功率更高（600瓦）。DL385 Gen11在关键基准测试中产生了几乎相同的推理结果^¹⁴，为必须在吞吐量与能耗及散热限制之间取得平衡的客户提供了良好的经济性。

详见表1，对比HPE与竞品在llama3.1-8b、llama2-70b-99和Whisper (Offline)中的结果^¹⁴。虽然DL385在Llama测试中与竞品系统表现接近，但它在Whisper Offline测试中超过了竞品系统。这一结果凸显了较低的GPU功耗并未实质性损害语音转文本吞吐量——并且在本案例中反而产生了可衡量的优势。

HPE ProLiant DL145 Gen11：边缘利器

HPE ProLiant DL145 Gen11在本轮中亮相MLPerf^®，它专为边缘AI推理而设计。除了采用强大的英伟达GPU之外，DL145 Gen11还提供了多项附加功能，使其成为苛刻环境下分布式部署的理想选择：可选配的加固套件使服务器达到MIL-STD-810H等级，工作温度范围从-5°C到55°C，并能凭借空气过滤系统应对多尘或工业环境。

HPE的创新和专业能力

为您的AI环境带来高性能

纵观MLPerf^®Inference v6.0测试结果，可见HPE ProLiant产品组合的深度和一致性——从旗舰数据中心平台到针对电源效率和部署灵活性进行优化的边缘就绪系统。这些成就进一步证明了HPE在提供针对AI工作负载定制的高性能计算解决方案方面的领*地位。除了创新技术，HPE负责运行基准测试的AI性能工程专家团队对于取得这些成果也起到了关键作用。他们对系统能力、架构和存储细微差别以及微调的深刻理解，可助力客户评估AI工作负载规模并调整应用，以优化其环境的性能。

无论您是在运行大规模LLM推理、语音转文本工作负载，还是能耗限制的边缘AI，HPE ProLiant服务器都证明了其良好性能并不局限于单一配置或使用场景。