以5G为代表的移动通信、以大模型为代表的AI,是驱动边缘计算发展的两大技术力量。
前者带来了连接能力的提升,后者则提出了更高的算力需求。生成式AI热潮的出现,尤其是大模型行业应用的落地,对边缘侧智算能力的要求越来越高,驱动着边缘计算朝着边缘智算的方向演进。
作为国内边缘计算市场份额最高的厂商,浪潮信息在近日的2024边缘计算合作伙伴大会上,全面升级边缘智算产品家族,发布一系列边缘智算新品,并开启“边缘共行者计划”,在加强边缘产业生态建设的同时,与生态伙伴共同推出了面向行业细分应用场景的方案型产品。
在今年4月举行的“IPF2024浪潮信息生态伙伴大会”上,浪潮信息提出“一切计算皆AI”的理念,意味着从计算到智算的升级,正在席卷涵盖“云边端”的整个ICT架构体系。
这场革命首先在云数据中心侧发生,大模型的训练和推理需求,推动了智算中心算力的快速增长;在端侧,AI PC的兴起,则加速了终端设备智算能力的提升;如今,得益于AI行业应用的快速落地,这一潮流又进一步延伸到了边缘侧。
浪潮信息边缘计算产品部总经理孙波介绍说,与应用场景的深度结合,使得AI能够创造出更大的价值,带来了边缘智能应用的井喷,尤其是在工业制造、交通服务、能源管理、自动驾驶等行业场景。
孙波表示,随着大模型时代的到来,AI正在朝着多维数据来源的方向发展,同时提升了对数据存储的需求,由此驱动边缘计算向边缘智算的演进。
边缘AI正展现出巨大的产业价值。相比云中心侧推理,边缘侧推理的显著优势是时延更低,满足智能驾驶等即时决策需求;同时能够减少数据传输量,降低网络带宽要求,适合交通路口等监测场景的需求;灵活可靠的部署方式,对于工业质检应用也是福音;此外边缘计算还有更好的安全性,能够保护数据隐私。
需求就摆在这里,但要满足需求却不是一件容易的事情。
浪潮信息边缘计算产品部高级产品经理刘香男介绍说,边缘智算的场景精细化、业务需求多样化,因此对算力的需求非常多元;其部署环境则非常恶劣,高温高湿是常事,对防水防尘散热的要求都非常高;同时,分散部署使得边缘智算的管理非常复杂,生态方面存在封闭脱节等问题。
浪潮信息的边缘智算产品设计,正围绕着这些痛点而展开。
此次新发布的边缘大模型一体机,即具有训推一体、多元多模、开放全栈、开箱即用、安全隐私等特点,并适配多种异构加速芯片,支持多种大模型部署,融合了开放的标准软件堆栈,可提供低时延和高性能的边缘推理算力。
升级版的自动驾驶分布式计算框架AutoDRRT 2.0,则在计算组件的分布式、高容错及低延时等三个核心特点进行技术革新,将BEV模型扩展效率提升1倍,网络性能提升14倍,GPU_Direct模式将延时下降85%。
此外,其EIS边缘服务器、RSCU路侧计算单元等边缘计算产品,普遍具有防水防尘、宽环温、9级烈度抗震等针对恶劣环境的优化设计,满足交通路口、无人矿卡、能源场站等应用场景的需求。
特别值得注意的是,除了将边缘微中心、边缘服务器、便携AI服务器和边缘微服务器这四大边缘计算产品线向边缘智算升级,浪潮信息还将软件平台进行智能增强,缘脑、缘视、缘智三大软件栈也全面升级,为边缘AI创新提供全栈、极致、智能、开放的边缘智算底座。
虽然早在2017年就开始布局边缘计算产品,但孙波表示,边缘计算仍然是个新场景,而且与业务的结合度高,后者则是浪潮信息的短板,需要由合作伙伴来补齐。
在过去的7年里,浪潮信息在持续通过技术破局提升内驱力的同时,也致力于通过生态发展来构建外驱力,与合作伙伴一起打造了近百个场景解决方案,助力千行百业提质增效。
他表示,在2023年侧重“做广度”的基础上,2024年的生态重心则放在了“做深度”上。“边缘共行者计划”,正是由此提出的。
浪潮信息边缘计算产品部高级架构师李宁介绍说,“融携实验室”“星火聊缘沙龙”和“边缘共行者计划”是边缘合作伙伴产业生态合作的三个抓手。
其中,“融携实验室”搭建了行业应用场景,为合作伙伴提供免费的算力支持,满足其应用开发的认证测试需求;“星火聊缘沙龙”则是浪潮信息搭建的合作伙伴与行业客户之间的桥梁,面向交通、制造、通信等行业,解决合作伙伴的客户推广问题;边缘共行者则是打通商机、产品、技术和生态,通过资源共享、联合创新等方式,解决边缘智算方案从定制化到标准化的挑战。
李宁表示,随着行业应用落地的增加,智算解决方案急需从定制化走向标准化,从而降低开发工作量,实现批量部署。要实现以标准化的方案型产品,来满足定制化的客户需求,就需要在软硬结合一体化、功能组件模块化、接口外设通用化等方面做出努力,形成便携易用的一体化产品。
显然,这些场景化设计的方案型产品,必须通过与生态伙伴的合作来完成。
在此次边缘计算合作伙伴大会期间,浪潮信息与合作伙伴联合发布多款边缘智算方案,百度智能云、金风慧能、河北工程大学和运营商代表也在现场分享了一见视频AI一体机,新能源无人化场站解决方案、水网智慧调控一体机,通算智接入网一体机解决方案等“边缘共行者”方案产品,推动能源、水利、通信、制造、交通等行业的边缘AI业务批量部署落地。
面向未来,随着AI应用的加速落地,边缘计算将迎来全面智能化的新时代。
在这个新时代里,合作伙伴能够获得更多的商业机会,同时也需具备更高的能力要求——既要深入了解行业客户的业务需求,也要熟练掌握最新的AI技术。这就需要合作伙伴与领导厂商密切合作,合力为客户提供服务,共同完成这一产业变革。