来测测电脑AI性能吧：技术公司联盟发布MLPerf AI推理基准测试

自AlphaGo与李世石进行围棋对决后，人工智能逐渐以各种形式进入我们的生活，包括我们日常使用的智能手机中也开始内置人工智能芯片。现在很多机器学习训练是在显卡或专门的人工智能处理器中训练的，但这些设备的人工智能训练、推理一直没有一个统一的标准。在去年由众多公司组成的技术公司联盟联合大学研究人员推出了MLPerf Training人工智能训练基准测试，而一年后MLPerf再次推出了针对人工智能推理性能检测的MLPerf Inference 0.5版基准测试。

图片来自Unsplash

新的MLPerf推理基准测试其中包括5项内容，主要针对目前常见的应用，包括图像识别、物体检测及机器翻译项目。而且测试模拟的场景都与真实情况相关。其中单流检测评估如智能手机用户拍照，多流检测评估如检测障碍物的多摄像头气测系统。服务器场景针对在线请求，而离线检测针对批处理系统，主要测试系统的吞吐量。这套测试中还包括了一个负载生成器LoadGen，除了生成负载外，还要负责验证结果的准确性并计算最终的指标。

目前训练好的人工智能模型中包括了很大的数据库，在使用时可能会有不便，所以现在有研究人员想要一种可以保持一种逻辑并能迅速应用到其他的数据中，这种机器推理过程也逐渐成为了现在很多人工智能应用需要做的东西。

此前MLPerf已经推出了MLPerf Training机器学习训练基准测试，而本次推出的MLPerf Inference推理基准测试让GPU、AI芯片有了更加全面的测试。不过在这些测试中，还没有正式加入功率测试，要提交测试硬件功率需要加入其中的功率工作组。

目前MLPerf Inference推理测试还没有成绩提交，但已经有Training训练基础测试数据了，不过数据也不是很多，只有英特尔、NVIDIA及谷歌TPU的一些测试成绩。但MLPerf将测试程序开源了，所以对深度学习、神经网络感兴趣的朋友及研究者可以将测试程序下载下来后测试一下自己的电脑。