天极网大咖秀

从比拼算力到深耕算子:国产算力的真正赛场,藏在底层

海峰看科技 2026-11-10 阅读: 4,012 次

文/海峰看科技

大家发现没有,最近国产大模型的发布会,几乎都是一个套路,模型参数更大、能力更强、榜单更高。但是几乎没有人讲算子。

其实在热闹的上层比拼之下,大家看不见的算子开发竞赛,决定国产算力能走多远。算子是硬件与大模型之间的翻译器,决定算力AI芯片能否释放出全部性能,决定了模型和AI应用能否更低成本、更高效率跑起来。

大模型能力每往上提一档,对底层算子的要求就跟着抬一档——热闹都在上层,硬活压在最下面。这个错位,就是这一层的处境。

相比国外的AI生态,“写算子”工作对国产AI生态而言,更加的重要,因为我们起步要晚了一些。那中国AI如何补好算子开发这一堂课?如何鼓励更多人加入到国产算子开发中?

最近,笔者关注到一场重磅算子开发挑战赛,吸引了177所高校、539支队伍报名,最终经过激烈角逐,有28支队伍晋级决赛。从这场比赛的丰富成果,我们看到了中国AI补短版的答案。

算子:AI算力底层的“翻译官”

要回答这个问题,得先弄明白“算子”到底是什么。

算子是深度学习完成计算的基础单元。矩阵乘法、卷积、注意力……这些模型里最频繁的操作,落到芯片上,就是一个一个的算子。它们是模型运行的地基积木,所有上层能力,都建在这一块块积木之上。

这里笔者用一个很形象的比方来帮助大家理解“算子”。在AI产业,芯片有自己的一套“母语”,只认得机器指令,而大模型说的,却是一套高深的数学语言。

算子,就是那个把数学语言翻译成芯片母语的“翻译员”。翻译得好,一句话就说到点子上;翻译得差,绕来绕去、拖泥带水,还动不动“翻译错词”,模型就会卡壳、跑不动了。

此时,大家或许就能更容易理解“算子”对于算力产业的作用:算子调优的好坏,直接决定一套模型在芯片上的实际运行速度和算力消耗。

简而言之,算子适配得好,硬件的算力利用率才能真正释放出来;适配得差,再强的算力卡,也只是纸面参数。

对于国产算力产业而言,还有更现实的难题:跨芯片迁移。当厂商需要将大模型从海外芯片切换到国产算力硬件上时,并非简单的替换算力卡,就能让大模型在这些设施上运营了。

行业需要对“算子”进行重写、对齐、深度调优。但这一过程并非易事,这个过程往往需要很久时间。可见,“算子”这一层,才是真正决定一款模型“能不能真正跑起来”的关键之一。

算力堆砌的假象:卡够了,性能为什么上不去?

目前,行业里存在一种普遍错觉:只要堆算力卡、建智算中心,大模型就能撑起来。

现实中不少企业陷入的窘境,却带给大家值得深思的问题。我们经常听到有企业抱怨,明明采购了智算算力服务,硬件规格领先,但自家大模型却跑不出预期的效果。算力堆上去了,性能并没有跟着上去。

为何会出现这种矛盾?从文章第一部分,我们或许已能感受到问题或许出在“算子”这一层。为了更清楚地解释,我们用一个贴切的比方来解释。

芯片就像发动机,负责提供马力;大模型就像乘客,提出业务需求;算子就是那个既懂硬件、又懂业务的司机。发动机马力再强,司机不了解车辆特性,即便汽车性能再强悍,照样跑不出该有的性能。

拆开来看,模型在算力资源上跑不出该有的性能,这一问题不在算力数量不足,也不在机房运维不够,而在算子与模型、芯片之间的适配调优不足。

算力是“量”,算子适配则是“质”;光堆“量”不提“质”,再多的算力,也只是一堆没被激活的设备,堆得越多,浪费就越多。

对于厂商而言,企业向运营商购买的算力,需要在“算子”层面完成适配,才能发挥真正价值。

这种芯片与模型之间的不适配,也为产业带来连锁反应。这让厂商的巨额算力投入打了折扣,模型训练和推理的成本也被拉高,业务体验受限。

这些现象叠加之后,不免让行业陷入一种“买得到算力,用不好算力”的困境。这或许就是当下国产算力最真实的尴尬。

算子之困:瓶颈本质是人才缺口

那么“算子”调优的困难,到底是技术工具问题,还是人的问题?一场面向真实场景的算子开发赛事,给了极具参考价值的观测窗口。

我们说的比赛就是近期中电信人工智能科技(北京)有限公司与华为联合主办的“中国电信星辰杯·高校AI算子开发挑战赛”。它最重要的创新,就是把原本很难横向对比的算子开发能力,变成了一把统一、可衡量的能力标尺,让国产算力底层的人才短板第一次具象化。

过去算子调优能力难以评判:不同硬件、不同验证标准之下,算子实现效果没法放在同一个维度比拼。而本次赛事采用统一赛题、统一评测平台,线上评估+现场验证的模式保障结果可复现。

这场比赛面向全国高校在校学生,赛题全部取自真实大模型底层算子场景,吸引了来自全国高校的539支队伍报名,最终多轮比赛淘汰了大部分队伍,有28支队伍晋级决赛。

据了解,决赛赛题是最考验功夫的Sparse FlashAttention反向算子,它是稀疏大模型训练中的核心算子,直接决定长上下文大模型的显存占用与训练速度,调优难度极高。

一场比赛办得越规范,它反映出的问题就越清楚。这场比赛折射出的,恰恰是产业人才存量的底:愿意且能够投身国产“算子”开发的人才,目前还没有那么多,也蕴含着巨大的机会。

也就是说,中国算力的坎,与其说卡在“算子”技术本身,不如说卡在能“写算子”的人才身上。笔者认为原因主要有两点。

其一,“算子”门槛极高。想要从事“算子”开发,这些人才既要懂芯片硬件架构,又要懂深度学习模型逻辑,可以说需要具备典型的软硬结合交叉能力。

直白地来说,这些人才要读得懂芯片手册里的指令集、内存层次、计算单元的分工,又要吃透模型的数学原理和数值精度,还需要在“算得准”和“算得快”之间反复权衡。

一个“算子”要同时照顾多种数值精度,稍不留神,模型训练就不收敛。同样是“算子”,如果没有调优,对于同样的芯片而言,跑出来的速度可能差一大截。

正如科大讯飞副总裁、研究院院长刘聪在2026智源大会上所讲,在国产算力上训练大模型,不是简单的适配问题,而是一场需要深入软硬件架构、逐个击破底层瓶颈的硬仗。

懂算法的不一定懂芯片,懂芯片的不一定懂模型,两者都精通的可以用凤毛麟角来形容。这已决定了“写算子”人才的稀缺性。

其二,人才供给跟不上产业扩张。一边是大模型不断迭代、全国智算中心大规模上马,另一边能做算子开发、迁移调优的人却极其稀缺。

智源研究院系统研究组负责人刘广,在2026智源大会“智算前沿·AI赋能系统”分论坛上直言:“算子”开发是AI基础设施中最苦、最底层的活,人才极度稀缺,人才瓶颈已到临界点。

可以说,懂软硬协同的算子人才,供给跟不上产业扩张的速度,才是国产算力真实的坎。

以赛育才,打造统一标尺,扩大国产算子人才池

人才缺口不会自动弥合。大模型规模持续增长,国产算力硬件不断扩容,未来算子层面的人才缺口只会进一步放大。

行业里会写提示词、会做模型应用的人很多,但能做底层算子开发、迁移调优的人,是真正的稀缺资源。

大模型浪潮之下,大多数人涌向了更容易出成绩的上层,而最难、最苦,也最关键的底层,却很少有人愿意坐冷板凳。国产算力下一阶段,主要矛盾早已不是有没有合适的算力卡,而是有没有人把硬件的性能真正释放出来。

正因如此,这场比赛更值得产业关注。中国电信星辰杯·高校AI算子开发挑战赛不只是比一场,把算子开发能力变成可度量的标尺,更是在为产业构建“算子”人才蓄水池。

比如,比赛后的高校算子人才座谈会、星辰通用人工智能实验室的人才宣贯与招募,都在做同一件事:把散落在校园里的“算子”人才,一个一个聚在一起,并通过赛事,让行业看到“算子”人才的重要性,从而加速行业对“算子”人才的投入与培养。

运营商、企业建设智算中心时,绕不开“算子”这道底层命题。算力,决定中国AI理论上能跑多快;算子适配,才决定它现实中能跑多远。

而能不能持续打磨好算子、释放算力价值,最终取决于愿意沉下心坐冷板凳的软硬协同人才。国产算力的下半场竞争,说到底,是底层人才的竞争。

 

海峰看科技
独立科技评论员,《海峰看科技》账号创始人,多次接受央视、环球时报、科技日报等采访。 ICT行业杂志前副主编,从业十多年,聚焦5G、手机、IoT、光、云、AI、互联网、智能汽车、机器人等。 每年与超100位科技行业企业CXO/VP/总监面对面交流。 多个年度《中国信息通信行业发展报告》特约撰稿人。 毕业于北京邮电大学,曾获十大通信行业自媒体称号。

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)

×
用户注册

 

登录 忘记密码?
×
用户登录

 

忘记密码?