天极大咖秀

登录 | 申请注册

亚马逊云科技CEO:推理将成为应用未来的核心组件

大数据在线 2024-12-05 阅读: 667 次

如果2023年是生成式AI概念的兴起之年,吸引到全球各类用户的关注;那么2024年则是生成式AI的验证之年,不同行业的各类用户均或多或少在不同业务场景中对生成式AI进行验证。

无疑,经过两年的发展之后,生成式AI这项变革性技术正展露出极大的应用潜力。那么,生成式AI接下来会对企业业务应用场景产生哪些巨大影响?企业又应该如何让生成式AI应用顺利融入到生产场景之中?大模型未来又有哪些关键的趋势?

作为云计算领域的顶级盛会,亚马逊云科技 re:Invent大会一向是云计算、人工智能等前沿技术应用与探索的风向标。对于生成式AI带来的变革性影响,亚马逊云科技在2024 re:Invent大会带来全新的思考与洞察。

正如亚马逊云科技新CEO Matt Garman在大会所言,生成式AI是一项变革性技术,随着生成式AI更多进入生产场景,生成式AI将会与各类应用紧密集成,而推理也会成为未来应用中一个极为重要的组件。

与此同时,亚马逊CEO Andy Jassy也时隔三年再次出现在re:Invent舞台上。他在大会上宣布了亚马逊最新多模态大模型Nova,包括六个基础模型,支持多模式任务的文本、图像和视频处理。Andy Jassy 认为Amazon Nova是提供智能和行业领先性价比的最先进的新基础模型。

推理将成为未来应用的核心组件

“应用已经彻底改变了。”Matt Garman在大会上直言道。

根据亚马逊过去多年的构建经验,计算、存储和数据库通常是应用构建的三大不可或缺核心模块;但现在,随着生成式AI的兴起和融入,推理正变得愈发重要,成为构建应用当之无愧的核心组件模块之一。

在Matt Garman看来,生成式AI具有改变和颠覆每一个行业的潜力,改变每一个流程、应用体验,而让生成式AI真正融入生产应用端,而不是停留在验证阶段,关键就是把推理这个核心组件做好。

因此,亚马逊云科技在今年大会上,着重介绍Bedrock产品的重要性,旨在在产品层上提供高性能、灵活、安全的模型推理服务,显著降低AI推理的门槛,真正帮助用户们用最简单的方法与工具来构建、扩展生成式AI应用。

例如,在Scaling Law的驱动下,大模型参数规模越来越大,但模型规模并非越大越好,在一些特别的领域或者场景中,往往需要小且快的模型,这也让模型蒸馏正变得越来越重要。但过去用户在模型蒸馏往往只能选择开源大模型,并且需要依靠AI框架和代码开发来完成工作,在效率和使用上属实一言难尽。

为此,亚马逊云科技在本次大会上推出Amazon Bedrock Model Distilation模型蒸馏功能,选择自己想要的模型去契合场景使用需求,更能够让模型运行速度大幅提升、成本大幅下降。

又如,哪怕是再好的大模型,也需要面临幻觉的挑战。当生成式AI进入到现实生产场景,用户不可避免地会遇到幻觉问题,这也是当前用户们对于模型在生产场景中应用的顾虑所在。亚马逊云科技的思路是自动推理检查,通过Amazon Bedrock Automated Reasoning checks来检查推理是否正确,防止事实错误、模型幻觉等出现。

再如,AI Agent是生成式AI应用的巨大价值所在。在单一、简单的工作任务重,AI Agent已经能够胜任,但是面对复杂任务时,数百个任务并行处理则带来的极为复杂的工作流,需要多个代理进行协同。为此,亚马逊云科技打造了Amazon Bedrock multi-agent Collaboration,支持多代理的复杂工作流程。

除了上述功能之外,亚马逊云科技在此次大会上还发布了不少于Amazon Bedrock相关功能。可以看出,随着生成式AI融入生产应用中,推理在未来将会无处不在,帮助用户真正做好推理的意义重大,而亚马逊云科技正在不断围绕Amazon Bedrock构建起越来越丰富的功能,以满足用户们在推理中遇到的各色各样的需求,从而加速推动生成式AI在生产场景的应用。

亚马逊最新大模型Amazon Nova亮相

在本次大会上,亚马逊CEO Andy Jassy的出现可谓是一大惊喜,这是他在三年之后重返re:Invent舞台。

作为全球电商巨头,亚马逊与其他行业用户一样,也是积极拥抱生成式AI的一份子。在Andy Jassy看来,永远不会有一种工具统治世界,推动人工智能的应用关键在于降低成本和提升生产效率,而非参与各种评测和竞赛。

Andy Jassy介绍,亚马逊内部有大约1000个正在运行的生成式AI应用,并且开发了供内部使用的新模型,现在决定公开分享出来,于是就有了本次大会上发布的Amazon Nova最新一代多模态基础大模型。

据悉,Amazon Nova包括四款模型:Amazon Nova Micro是一款仅处理文本的模型,能够以极低的延迟和成本提供响应;Amazon Nova Lite是一款极具成本效益的多模态模型,能够快速处理图像、视频和文本输入;Amazon Nova Pro是一款功能强大的多模态模型,可在准确性、速度和成本之间实现绝佳平衡,适合多种任务;Amazon Nova Premier是亚马逊的顶级多模态模型,专为复杂推理任务而生,并可用于作为“教师模型”来蒸馏定制模型。

此外,亚马逊还推出了两款专注于创意内容生成的模型:Amazon Nova Canvas用于生成高质量图像;Amazon Nova Reel用于制作高质量视频。

Andy Jassy透露,目前Amazon Nova Micro、Lite、Pro、Canvas、Reel已全部正式可用,并且已经在Amazon Bedrock上线,而Amazon Nova Premier预计将在2025年第一季度可用。预计明年,亚马逊还将推出Amazon Nova Speech-to-Speech语音转语音模型和Amazon Nova Any to Any任意模态生成任意模态模型。

根据相关行业基准测试结果显示,Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro表现出非常不错的竞争力。例如,Amazon Nova Micro在所有11项适用基准测试中,其表现与Meta的LLaMa 3.1 8B相当或更优,Amazon Nova Pro在与OpenAI的GPT-4o的20项基准测试中,有17项表现相当或更优。

事实上,亚马逊云科技在大模型领域的布局正在走向完善,其竞争力也在加速凸显。除了过去Amazon Titan大模型之外,随着Amazon Nova系列基础模型的发布,亚马逊云科技进一步增强了自身大模型的实力。此外,亚马逊云科技与Anthropic的深度合作,也将有利于亚马逊云科技提供丰富的生成式AI服务给各种用户。

给予客户选择权

“给予用户选择权”是亚马逊云科技反复强调的核心原则。“亚马逊公司内部团队的洞察与实践表面,开发人员希望有广泛的 AI 模型可供选择,预计这种情况将持续下去。”Andy Jassy如是说。

当下,生成式AI、大模型依然处于产业发展的早期,技术、产品的创新保持着极高的活跃性,这也使得各类大模型涌现,模型本身也在不断地迭代、升级与演进,新版本、新功能层出不穷;另一方面,用户在生成式AI与场景的适配方面也处于早期,不同领域不同场景往往存在着不一样的需求,需要综合考虑大模型的性能、成本、可靠性等各种因素。

因此,亚马逊云科技认为用户在生成式AI需要有充分的选择权,从而更好地将生成式AI与业务场景进行融合。

例如,Amazon Bedrock已经推出了Marketplace,汇聚了超过100个大模型供用户进行选择。另外,用户往往需要根据具体业务场景需求来对模型进行蒸馏,亚马逊云科技Amazon Bedrock Model Distilation可以让用户选择lLama、Claude等多种先进模型进行蒸馏,让用户可以蒸馏出更适配业务场景的模型。

综合观察,如果说去年亚马逊云科技展示的生成式AI三层技术栈,给业界展示了推动生成式AI应用的整体技术框架;那么,今年大会亚马逊云科技针对生成式AI 的眼花缭乱、目不暇接众多新功能发布,意味着亚马逊云科技极大填充了生成式AI技术应用的技术框架,让生成式AI在工程化方面大幅前进。面向未来,随着生成式AI与场景的深度融合,亚马逊云科技在人工智能的数据、分析、训练和推理等方面全面、细致的工作,将推动用户们在通往生成式AI之路中行稳致远。

大数据在线
洞悉技术趋势,聚焦产业发展

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)