天极大咖秀

登录 | 申请注册

MLPerf AI存储基准测试,中国速度领跑

大数据在线 2024-11-05 阅读: 422 次
近日,MLCommons协会发布最新MLPerf™ Storage v1.0 AI存储基准测试成绩。

测试结果颇有些意外,却又在情理之中:以浪潮信息为首的三家中国存储厂商位列MLPerf™ Storage多项细分评测最佳,中国速度在全球AI存储权威测试中实现领跑。这既是中国数据存储产业整体实力近年来稳步提升的客观反映,也是AI时代中国存储厂商产品与技术创新能力的集中体现。

随着AI技术与AI应用不断进入到千行百业,各大行业围绕AI、数据要素等发展新质生产力已成为确定性趋势。可以预见,算力与存力齐头并进的局面也将全面打开,而中国存储厂商在AI存储领域的持续创新,有望推动存算协同效应持续优化,让AI技术在千行百业中遍地开花。

MLPerf测试:存储性能的一把新标尺

一直以来,性能都是衡量存储系统的重要指标之一。

过去,SPC测试(Storage Performance Council,存储性能委员会测试)是存储系统性能的权威评测;如今,随着AI大模型获得越来越多应用,关键在于对于大规模海量数据的高效处理,这不仅仅需要强大的AI算力,亦离不开存储系统在性能、可靠性等方面的有力支撑。那么,如何衡量存储在AI场景中的性能、可靠性等能力?

为此,MLPerf™应运而生。MLPerf™ 是影响力最广的国际AI性能基准评测,由图灵奖得主大卫•帕特森(David Patterson)联合顶尖学术机构发起成立,并于2023年推出MLPerf™ Storage基准性能测试,该测试通过准确建模ML工作负载所产生的I/O模式来帮助解决存算平衡问题,为不同存储系统和不同加速器类型的混合和匹配提供灵活性,为ML/AI模型开发者选择存储解决方案提供权威的参考依据。

据悉,MLPerf™ Storage基准性能测试推出两年时间里,已历多个版本迭代,并获得全球多家厂存储厂商的积极参与和支持。以本次测试为例,评测围绕医学影像分割、图像分类、宇宙学参数预测三大AI存储应用场景,采用主流的3D-Unet、ResNet50、CosmoFlow三类模型,在GPU利用率高达90%或70%的条件下,以带宽和支持的模拟 GPU (模拟加速器)数量为关键性能指标,评估单客户端或集群模式下存储系统的性能表现。

可以说,MLPerf™ Storage基准测试正迅速成长为衡量存储在AI场景中性能产品力的一把标尺。浪潮信息存储产品线副总经理刘希猛介绍,ML commons协会已有超过160个会员,MLPerf™ Storage基准测试建立之初就以架构中立、公平性和可重复性为宗旨,从测试的设计端尽量确保客观、公正地反映存储系统在AI场景中的的性能。

再仔细分析MLPerf™ Storage基准测试,其数据格式、测试套件框架、测试逻辑和流程均高度适配真实AI场景,任何存储厂商均能在相同的、公正的平台上测试自身软、硬件的产品性能,从而快速评估自身产品的能力。

例如,MLPerf™ Storage基准测试为保证测试公正性,通过运行一个分布式训练测试程序,模拟GPU计算过程,最大程度还原AI服务器对存储系统的访问,在满足计算资源利用率和IO时间相同的条件下,比较存储在同样时间里加载和处理数据的利用率,以此来测试存储系统能够支撑的最大GPU数量和性能表现。

“像3D-UNet测试不允许提前在主机上缓存数据,数据需要从存储节点读取,能够更加全面、科学体现存储系统在大规模AI集群中的性能表现。”浪潮信息分布式存储方案架构师Lance Sun介绍道。

事实上,全球有十三家重量级存储厂商参与本次评测,以浪潮信息为代表的三家中国存储厂商表现优异。其中,浪潮信息更是主动选择封闭赛道,严格遵循既定配置和代码规范,其分布式存储平台AS13000G7在3D-UNet和CosmoFlow两个模型共计8项测试中斩获5项最佳成绩,展现出极强的产品竞争力。

中国速度领跑

为什么中国存储厂商能在MLPerf™ Storage性能基准测试中领跑?

事实上,这更像是中国存储产业不断积累和持续成长的必然结果。十年前的SPC测试开始,中国存储产品逐渐登陆SPC性能榜单之中,那时候中国存储厂商渴望在国际权威舞台中证明自己,后来甚至屡次上演霸榜的好戏,“不服?跑个分!”成为中国存储厂商的常规操作。

随着AI大模型的兴起,AI场景的大量涌现,对于存储系统的性能、多协议、可靠性、数据管理等带来深远影响。与SPC那套成熟的测试机制相比,以MLPerf™ Storage为代表的聚焦AI场景的存储基准测试刚刚起步,尚处于高速发展的阶段。此时,中国存储厂从早期就积极参与其中,更像产业新标准、新规则制定的参与者,是趋势理解、技术能力、场景洞察等能力的综合体现。

例如,在本次MLPerf™ Storage基准评测中,浪潮信息率先在Cosmoflow场景中发现问题,即哪怕将数据集放在内存之中,GPU的利用率依然达不到90%。因此,浪潮信息第一时间与MLCommons进行沟通,反馈测试套件、平台标准的缺陷,并与英伟达等公司一起讨论、论证,最终制定出Cosmoflow场景GPU70%利用率的标准。

另外,像浪潮信息能够在3D-UNet和CosmoFlow两个模型共计8项测试中斩获5项最佳,离不开其较早涉足大模型训练、推理等场景的深度实践,对于AI场景中软硬协同有着深刻理解,并且从整体架构到软硬件各个技术栈进行多个层面的针对性创新,从而在MLPerf™ Storage基准评测中实现领跑。

例如,在架构层面,浪潮信息采用自研分布式软件栈,通过全新数控分离架构,数据面和控制面完全解耦,实现120 GB/s的单存储节点超高性能,单存储节点支撑5台8卡计算节点规模,同时计算集群GPU利用率90%以上;在软件层面,浪潮信息通过多路并发透传技术,有效减少I/O操作中频繁的上下文切换,降低单次I/O时延50%,并确保高并发下的时延稳定性;在软硬协同层面,浪潮信息通过内核亲和力调度,I/O请求动态调整,增强文件系统与计算节点亲和性,确保负载均衡,将数据移动与多核CPU之间的访问效率提升400%。

刘希猛介绍,针对AI场景的实践,浪潮信息的存储产品有两个核心策略:其一是以客户需求为导向,从实际AI场景应用出发来打造定制化的存储产品;其二,通过成熟的AI场景解决方案能力来精准平衡客户需求、资源分配与成本控制,为AI场景构建坚实的数据支撑平台。

MLperf后续:存算协同将深入人心

毫无疑问,AI大模型彻底改变了基础设施的规模与复杂性。

如今,随着AI大模型加速走向各大垂直行业,千卡、万卡集群也在不断涌现,并且多元算力也加速成为主流配置。可以说,在算力侧的巨大变化,无疑会进一步全面提高对存储侧在性能、可靠性、容量、功耗和管理的要求。

因此,存算协同在未来必然会获得更多用户的关注。MLPerf™ Storage基准性能测试无疑开了个好头,真正从基准测试的维度来衡量存算协同能力,也值得厂商、用户等更多关注。

在Lance Sun看来,MLPerf™ Storage基准性能测试刚刚开展两年,但在产业界已产生了重要影响,值得持续关注和参与。首先,未来一定会有包括更多中国厂商参与到MLPerf™ Storage基准性能测试中来;其次,未来像向量数据库、能耗等一些新的规则有望引入,测试标准和规范会得到持续迭代、完善,让基准性能测试更加科学准确。

综合观察,在数实融合和发展新质生产力的驱动下,千行百业加速拥抱人工智能已是大势所趋。随着AI大模型技术自身的快速发展,对于算力、存力等基础设施带来巨大变革。如何最大化发挥基础设施的价值,让存算协同的重要性迅速提升,也驱动着中国存储产业加速成长与持续创新。MLPerf™ Storage基准性能测试拉开AI存储赛道比拼的新序幕,以浪潮信息为代表的中国存储厂商有望在这条赛道中跑出中国速度、引领存储新变革。

大数据在线
洞悉技术趋势,聚焦产业发展

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)