天极大咖秀

登录 | 申请注册

构建生成式AI应用,企业需要具备怎样的能力?

趣味科技 2024-05-09 阅读: 8,292 次

伴随着人工智能技术近年来的飞速发展,越来越多的企业都认识到了生成式AI与大模型的巨大价值。而如何构建具有商业价值的生成式AI应用,也理所当然地成为了广大企业关注的焦点话题。

那么问题就来了:要想打造适合自身业务的生成式AI应用,企业应该从什么方面入手?又需要具备怎样的能力?

对于这个问题,亚马逊云科技大中华区产品部总经理陈晓建给出了这样的答案:“企业需要的是懂业务、懂用户的生成式AI应用,而打造这样的应用,需要从数据做起。”

构建生成式AI应用的数据基石

“在生成式AI时代,数据是企业取得成功的关键。”谈到数据在生成式AI时代的作用,陈晓建如是表示,“每一家公司都能访问相同的基础模型,但是那些能够利用自己的数据,构建具有真正商业价值的生成式AI应用的公司,才会在这个时代取得成功。”

陈晓建指出,不同的企业运用自身的数据,才有了差异化的生成式AI应用。而通过数据定制基础模型的方式,则可以根据不同的应用场景,分为检索增强生成(Retrieval-Augmented Generation,简称RAG)、微调、持续预训练这三大类。亚马逊云科技旗下的Amazon Bedrock对这三类模型定制方式都提供了支持。

1、检索增强生成(RAG):企业可将自身的知识库、数据库等与生成式AI模型结合,在生成过程中实时检索和利用企业内部的相关数据,从而提高生成结果的准确性、一致性和信息量。该方式相对较为简便,适合知识时效性、控制幻觉、用户隐私数据保护、企业私域知识等应用场景。

2、微调:使用与目标任务相关的数据对模型进行进一步训练,以提高其在特定任务上的性能。该方式的门槛介于RAG和预训练之间,适合角色理解、输入理解、输出格式控制等应用场景。

3、持续预训练:企业利用内部文档、客户记录等自身专有数据对模型进行持续预训练。该方式的门槛相对较高,成本较大,但是可以得到一个企业自身定制的行业大模型,适合理解行业领域知识/术语、严控数据合规等应用场景。

模型微调或预训练模型的能力

陈晓建指出,为了帮助企业构建生成式AI应用,亚马逊云科技拥有构建数据基座的三大核心能力,即模型微调和预训练所需的数据处理能力、利用专有数据与模型快速结合以产生独特价值的能力,以及有效处理新数据以助推生成式AI应用持续快速发展的能力。这三大核心能力涵盖了从基础模型训练到生成式AI应用构建的重要场景,能够帮助企业轻松应对海量多模态数据,提升基础模型能力,在生成式AI时代取得成功。

对于模型微调和预训练所需的数据处理能力来说,从原始数据集到训练出基础模型需要解决三个主要问题:找到合适的存储来承载海量数据、清洗加工原始数据为高质量数据集、对整个组织内数据的发现编目治理。

首先,企业需要快速处理大量数据,因此需要存储能够承载海量数据、存储性能必须跟上计算资源,也就是扩展性和响应速度最为关键。Amazon S3拥有超过200万亿个对象,平均每秒超过1亿个请求,在容量、安全和功能上都能满足微调和预训练基础模型对数据存储的要求,亚马逊云科技专门构建的文件存储服务Amazon FSx for Lustre更是可以提供亚毫秒延迟和数百万IOPS的吞吐性能,进一步加快模型优化的速度和降低成本。

其次,企业需要进行数据清洗、去重、分词等操作。Amazon EMR Serverless和Amazon Glue无服务器数据集成服务,可以帮助企业轻松完成这些工作,让其可以更好地专注于生成式AI业务创新。

再者,企业需要解决查找数据、数据访问控制管理、数据访问权限设置、数据协同环境等多个数据治理难题。Amazon DataZone可以让企业跨组织边界大规模地发现、共享和管理数据,并且提供简单易用的统一数据管理平台和工具,让用户可以解锁所有数据的潜能。

数据结合模型产生独特价值的能力

对于生成式AI的基础模型来说,由于缺乏垂直行业的专业知识、缺乏时效性、生成错误信息幻觉问题、用户敏感数据的隐私合规风险等因素,所以存在一定的局限性。因此通过技术手段加速数据与模型的结合,使其产生独特价值,也就成为了企业数据基座的第二项关键能力。

检索增强生成(RAG)技术目前被业界普遍认为是实现数据与模型结合的主要途径之一。该技术通过将数据转换为向量并存储到向量数据库中,从而将语义的关联性转化为向量间的数学距离问题,以实现内容的关联性计算。现代应用程序需要精准理解用户需求,并正确关联产品或内容,这一需求广泛存在于搜索、评论、购物车及产品推荐等交互框架中,这些框架又依赖于功能各异的数据库,这使得数据库成为实施RAG技术的理想平台。

向量存储的理想情况是将向量搜索和数据存储结合在一起,亚马逊云科技已经在八种数据存储中添加了向量搜索功能,在提升数据查询性能的同时,也让客户在构建生成式AI应用程序时拥有了更大的灵活性,从而释放更多的价值。亚马逊云科技还专门构建了图数据库Amazon Neptune并推出了分析数据库引擎,能将图数据分析速度提升80倍,从而从图形数据中快速获取洞察,实现更快的向量搜索。

新数据助力生成式AI应用发展的能力

对生成式AI应用来说,频繁调用基础模型会导致成本增加和响应延迟,因此如何处理生成式AI应用生成的新数据,提升模型调用效率并节约成本,也就成为了企业数据基座的第三项关键能力。

亚马逊云科技旗下的Amazon Memory DB内存数据库,可以通过缓存之前问答生成的新数据,实现对类似问题的快速响应和准确回答,同时有效降低基础模型的调用频率。该数据库能存储数百万个向量,响应时间只需几毫秒,并能以99%的召回率实现每秒百万次的查询性能。

为了帮助生成式AI应用快速占领市场,亚马逊云科技可提供无服务器数据库服务和Amazon OpenSearch Serverless用于向量搜索,无服务器的速度加上生成式AI的力量,能够让用户最大限度减少运维负担和成本,消除性能瓶颈,从而更好地专注于生成式AI业务创新。而无服务器背后的安全隔离、故障处理、负载均衡、自动扩展、利用率监控等复杂工作,则可以交给拥有多年丰富经验和专业服务的亚马逊云科技负责,让用户彻底消除后顾之忧。

Amazon Music通过分析用户和歌曲的特征,将其转换成向量以提高推荐精准度。Amazon Music已通过Amazon OpenSearch将1亿首歌曲编码成向量并进行索引,为全球用户提供实时音乐推荐。Amazon Music目前在Amazon OpenSearch中管理着10.5亿个向量,并能够处理每秒高达7,100次的查询峰值,有效支撑其推荐系统。

“作为全球云计算的开创者和引领者,亚马逊云科技正在帮助各个行业、各种规模的企业打造强健的数据基座,在确保用户业务和数据安全的前提下,将数据的独特价值赋予基础模型和生成式AI应用,加速企业业务增长。”陈晓建说道。

趣味科技
年度十大媒体人,十佳科技自媒体,美通社媒体传播专家

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)