天极大咖秀

登录 | 申请注册

高质量AI数据服务铺路架桥,云测数据引领行业大模型训练新范式

松果财经 2023-09-22 阅读: 12,874 次

大模型发展风起云涌,使得AI应用又成为了市场热点。但这场创新运动和上一轮AI热潮的背景不同,如今行业不缺技术、也不乏商业模式健康的玩家,最稀缺的资源,已然变成了高质量数据。大模型的模型从何而来?本质上,就靠海量数据的“喂养”。

不过,这个过程绝非输入输出那么简单,而是要从收集数据做起,经过系统性工程,在不断的训练微调中形成最终的成果,还要将其与应用场景进行适配,融入真实应用。通过“人工”的持续努力实现“智能”,其难度可想而知。

正因为如此,人工智能领域,才有越来越明显的“得数据者得天下”的特征。考虑到这一工作的投入与难度,普通企业显然难以自主完成建设。大模型时代,企业需要的新生产力,大概率得向专业人工智能数据服务商要答案。

今年9月,云测数据携“面向垂直行业大模型AI数据解决方案”亮相2023年中国国际服务贸易交易会(简称“服贸会”),为行业大模型的发展落地,带来了专业解法。

高质量AI模型,靠好数据“养”出来

OpenAI携GPT惊艳世界,对话式AI令许多用户耳目一新。但大模型的生产力并不只如此,从国内大厂的通用大模型上线,到海外市场涌现的营销、金融等领域的专业大模型,这轮热潮显然有着类似产业革命的味道,用曾经流行过的话术讲:千行百业或许都值得用大模型“重做一遍”。

不过,行业用大模型“重做”意味着,通用大模型并不适合企业直接应用,只有转化为行业大模型才更容易发挥生产力。大模型仍然构筑于“算力+数据”的底座上,算力可外购,数据则不是好迈的门槛。

一方面,各行各业的发展与AI大模型概念碰撞,落地的核心仍然是算法,而算法的质量又取决于数据的质量。对普通企业来说,配置专门的队伍进行AI数据工作难度大且性价比不高,且专业性并不一定能满足大模型建设的需求。没有高质量的AI数据养料,场景化AI应用将无从谈起。

同时,要处理的数据规模也是一大难点。信通院数据显示,OpenAI自 2020年推出GPT-3以来,超大预训练模型参数数量、训练数据规模每年增长300倍,普通企业显然很难拥有这样的能力。

但另一方面,像外购算力一样采购AI数据服务,也没有那么容易。

比如,行业大模型的AI数据来自应用场景,采集能力影响着最终的准确程度,这就要求服务商必须有丰富的场景化意识,了解行业需求;大模型更看重人机协作,需要在预训练后进行持续微调再融入场景,所以针对大模型进行的预训练环节,含有大量的垂直行业数据,考验服务商在不同环节的处理能力;而在整个过程中,为了提升把通用大模型转化为行业大模型的能力,数据服务商必定要有一整套完备的工具、系统和平台。

这样一来,无论是在收集标注等环节的效率,还是垂直行业海量数据集对质量的要求,都对大模型发展趋势下的AI数据服务提出了新的要求。行业的厉兵秣马,开启的是更深度的竞争。

据媒体披露,OpenAI成立8年来,花费高达10亿美元用于模型训练,可见要落地于垂直行业更会难上加难。预训练、强化学习、人工反馈,无一不是费时费力费资源的工作。只有真正专精的AI数据服务商,才能靠对业务的深入理解、对工具和能力的长期建设,形成规模、效率等多方面优势。也只有这样的第三方平台,才能贴合企业的垂直需求,做到高效、适用性强。

如今,专业AI数据服务商,已经成为破局大模型数据养料问题的关键角色。

全链条、多行业,云测数据深度护航行业大模型

对AI数据服务的质量、效率、场景化等方面的要求,本质上是因为AI技术需要深入行业。在深入行业的过程中,大模型所需要的行业数据更多,而面对于行业数据,有许多现实的要求必须满足。在数据处理环节,机器处理数据与人工处理两者如何结合确保质量与效率并行;在技术支持方面,数据处理工具的先进性、易用性、丰富性是否可能达到AI项目要求;在企业经营层面,科学的流程管理、完善的交付体系等能力建设是否具备先进性。

所以,市场要求AI数据服务商既要有专门的工具、能力和解决方案,又要能够提供千人千面且富有行业深度的数据解决方案,满足不同层次的需求。

云测数据去年发布了“面向AI工程化的数据解决方案”,今年则在延续既有优势的基础上,面向行业大模型建设中存在的普遍性问题,升级发布了面向垂直行业大模型AI数据解决方案。为行业大模型的发展提供从持续预训练、任务微调、评测联调测试到应用发布的端到端过程中的高质高效数据,从基础设施层面,打牢行业大模型的根基。

这种全链条能力,来自云测数据长期积累的经验与技术。一方面,云测数据长期深耕智能驾驶、智能家居、电商、智慧金融等领域,对场景的理解十分深入,而这大大提升了构建行业大模型、应用于场景的能力。

比如在智能驾驶领域,云测数据作为唯一一家训练数据服务代表厂商,参与《智能网联汽车场景数据图像标注要求与方法》《智能网联汽车激光雷达点云数据标注要求及方法》的编制工作,同为共同编制单位多为中国科学院自动化研究所、中国汽车技术研究中心、北京汽车研究总院等单位,可见云测数据的专业水平。

除了对专业场景的深入理解,云测数据的优势还在于拥有面向行业场景的数据采集能力和丰富数据集积累,通过其采集场景实验室可提供生物认证、智能座舱、家庭场景、语音交互等丰富的场景数据样本,覆盖图像、语音、文本等多模态类型,可以在广泛、持续的基础上,为行业大模型预训练提供赋能。

另一方面,云测数据在长期服务实践中,逐渐对需求进行解构,可以通过不同维度、不同形式的数据触点,基于客户需求进行定制化数据服务。并且,由于具有多维度的数据采集工具,以及丰富的数据交付经验,云测数据拥有与数据内容更新频率相匹配的订阅式采集能力,这就为适应场景的变化、适配用户需求的迭代打下了基础。

总结而言,作为专业AI数据服务商,云测数据已形成一套针对多模态、多任务需求,进行标准化、工程化数据服务的模式。在大模型深入千行百业的过程中,用高质量AI数据服务,促成高质量行业大模型的诞生。

用更高质量的数据服务,助力产业跑出加速度

无论哪种大模型,要转化为企业生产力,就要先具备融入生产流程、融合企业能力底座的条件。从“面向垂直行业大模型AI数据解决方案”的发展环节看,也就是全环节都要与企业需求契合,把数据的高质量作为一种标准去执行。

在持续预训练环节,云测数据通过前文提到的定制化场景化数据采集能力,以及持续订阅服务能力,在金融、电商、智能驾驶等领域,根据企业要求完成数据的采集、清洗、分类,做到数据的优中选优。其中,云测数据标注平台、工具支持集成API接口能力和科学的作业协同能力,在保证数据处理精度的前提下大大提高了数据流转效率。

在下游任务微调阶段,也就是对人机协作的优化上,云测数据始终坚持用更完善、灵活的标注工具,对多模态数据进行细致的微调,适配人机耦合的需求,让大模型更精准。公开数据显示,云测数据的标注平台最高交付精准度达到99.99%,并提供包含QA-instruct、prompt等文本类任务项目和多模态大模型的相关能力支持,竭力保证数据处理的成效。

而在联调灰度发布环节,云测数据充分展示了对专业化、场景化和业务系统集成的关注。

云测数据特定领域的专家池,对家居、驾舱等各类垂直场景具备深度了解,能够根据实际场景提出独特有效的交互内容。在RLHF(Reinforcement Learning from Human Feedback)过程中,靠人工专业性带来更高质量的反馈,提升最终的数据质量,放大模型价值。与此同时,通过对企业需求的解读,云测数据可以搭建真实场景实验室、基于特定场景的样本资源池,对行业大模型进行垂直领域的深度测试。

最后,云测数据提供标准API接口,通过以集成数据底座为核心的数据标注平台,一边输出经过多轮质检的数据,一边收集难例数据以回流完成清洗标注,让模型调优成为一个持续的进程,并对接各类业务系统,成为最终可以正式发布的产品。

据此,我们也可以认为,云测数据本质上已为有需求的用户打造了一套“保姆式”服务——有场景化数据采集能力和高精度专业数据标注能力,有针对多模态任务处理的先进数据处理平台,有嵌入用户业务系统的API工具和项目管理体系。落地行业大模型应用,从此不再可望不可及。

正如云测数据总经理贾宇航所说:“AI数据质量,决定着算法的精度,AI算法精度决定产品质量。”人工智能领域的顶尖学者吴恩达也表达过此观点,即人工智能的价值需要吸收标注的高质量数据而释放,高质量数据的增加,会催化人工智能更快发展。中国市场数据规模不可估量,市场前景广阔,竞争因此更重视质量。云测数据坚持的场景化、标准化、工程化,就像在帮助AI数据服务走向工业时代,让数据价值的释放像泉水一样,源源不断。

此前,“数据二十条”等政策层面激发数据要素活力、丰富数据应用场景优势的纲领,让数据市场如烈火烹油。大模型一出,更让企业视数据为新时代的“石油”。大模型发展的窗口期,自然也成为了AI数据服务突飞猛进的窗口期。

但最后,谁能在这条赛道跑得更远,最终要看能否为客户创造价值,跑通正循环。当前谈最终胜利还为时过早,但有一点可以肯定,对已经形成成熟解决方案的云测数据来说,红利期,已经开启了。

来源:松果财经

松果财经
专注科技公司分析,挖掘新商业机会

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)