“18项AI推理性能纪录！包括图像分类、自然语言理解、智能推荐、语音识别等场景。”
在刚刚结束的MLperf推理测试评测中，浪潮NFA5闪耀全场，成为MLperf榜单中打破记录最多的AI服务器。它在Resnet50模型推理任务处理达到每秒处理54.9万多张图片；Bert自然语言理解推理任务达条/秒；DLRM智能推荐每秒推理处理能力达万条。
浪潮NFA5创造18项MLPerf推理性能记录
凭借强大的性能与软件优化，浪潮NFA5在与同样师出名门的20家企业“参赛服务器”测试对比中脱颖而出，获得了训练、推理双料冠军。
等等，为何当今AI这么火？连评测都转成了AI项目测试了，真正市场需要有这么大吗？
答案当然是肯定的。IDC预测，未来五年人工智能市场复合增长率将达到44.9%，整体规模将达到亿美金。
未来AI商业化有两个巨大的市场空间，一是AI产业化，二是产业AI化。人工智能经过数十年的发展，已经从实验室阶段到进化到AI产业化。从智能音箱到自动驾驶、生物识别，应用场景不断成熟，人工智能也正逐渐渗透到各行各业，产业AI化迎来了爆发性增长。
为AI产业提供计算力的平台，就是浪潮NFA5这样性能强大的AI计算服务器。
我为AI狂，浪潮A5问鼎MLPerf评测
接下来我们先来了解一下当今炙手可热的MLPerf测试。MLPerf基准联盟，现有50多家成员，包括谷歌、微软、Facebook、阿里巴巴、浪潮等企业，以及斯坦福、哈佛等高校。
MLPerf是一套用于测量和提高机器学习软硬件性能的通用基准，主要用来测量训练和推理不同神经网络所需要的时间。近日所进行的测试就是针对服务器推理方面性能。MLPerf测试集包含了不同领域的Benchmark子项，主要包括图像分类、物体识别、翻译、推荐、语音识别、情感分析以及强化学习。
既然是测试，就肯定会有跑分的环节。MLperf针对不同领域设置了不同的Benchmark，对于MLPerfTraining测试，每个Benchmark的评价标准是：在特定数据集上训练一个模型使其达到QualityTarget时的Clocktime。由于机器学习任务的训练时间有很大差异，因此，MLPerf的最终训练结果是由指定次数的基准测试时间平均得出。Train测试时间包含了模型构建，数据预处理，训练以及质量测试等时间。
据了解，本次MLPerf推理基准测试设有六个基准，重点面向图像分类、目标物体识别检测、医学影像分割、机器翻译、自然语言处理和智能推荐等常见机器学习任务。参赛选手可以选择提交任何基准及相应场景的结果。
MLPerf专为数据中心场景设计了一系列Benchamrk，数据中心场景下的各种推理基准测试包括:图像分类、物体检测、语言翻译(gmnt)、语义理解、智能推荐等。
在数据中心Closed任务的16项性能指标中，浪潮NFA5打破了11项整机性能记录。
我们来看看其中Resnet50和Bert-99.9这两项测试。Resnet是残差网络(ResidualNetwork)的缩写，广泛用于目标分类等领域以及作为计算机视觉任务主干经典神经网络的一部分，典型的网络有resnet50、resnet等。
浪潮NFA5在Resnet50中close封闭任务场景的server项目中得分，夺得该项目第一名；offline项目得分；在开放优化赛道更是达到惊人的/秒的成绩，同比年服务器全球最好纪录提升3倍，与其他选手拉开了明显差距。
BERT模型是谷歌提出的基于双向Transformer构建的语言模型，主要考察服务器的模型训练性能表现。浪潮NFA5在该项测试中依然力拔头筹，甚至在得分方面压制住了备受
转载请注明：http://www.0431gb208.com/sjslczl/4633.html
