天极大咖秀

登录 | 申请注册

打开企业AI落地之门,红帽用了三把“钥匙”

智能进化论 2025-04-02 阅读: 584 次

“开源、混合”,是红帽布局AI的关键词。

作者 | 小葳

图片来源 | 红帽

2025年,DeepSeek让开源闭源AI两大阵营发生震动。今年2月,百度宣布文心大模型4.5系列将于6月30日起正式开源。3月,OpenAI打破惯例,在协调多智能体方面发布开源Agents SDK。

“去年10月的红帽论坛,我们提出将AI带入企业的三个战略:开源、小模型、降低成本。DeepSeek出来后,我们很高兴看到双方的价值主张一致,也再一次验证了开源AI的价值。”近日,红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)表示。

2024年,作为企业级开源软件公司的红帽推出全栈AI产品与解决方案,“开源、混合”是红帽布局AI的关键词。不久前,红帽入选Fast Company杂志2025年度全球最具创新力企业榜单,以深度且富有意义的方式运营AI是其上榜的重要原因。

当前,成本、复杂度、灵活性依然是企业AI落地的三大挑战。如何用开源的方式,帮助企业降低AI落地门槛?近日,曹衡康向国内媒体分享了他的观点。

应对成本挑战:100%开源开放,拥抱vLLM

在闭源模型为主的时期,购买闭源模型就需要花费企业不少成本。随着越来越多开源模型的出现,模型部署、调优成为企业主要的AI成本。

红帽通过开源社区和工具,帮助企业以更低的成本开发高效的AI模型,这不仅减少了对GPU等高性能硬件的依赖,还降低了企业的运营成本。

红帽的理念一直是100%开源,让客户拥有选择的自由,并确保各个环境中的一致性。我们支持任何第三方开源模型,当然也支持闭源模型。只要对方愿意开放接口,我们都可以进行适配。” 曹衡康表示。

“在AI时代,开源的价值更明显。相比一家公司单独摸索,开源相当于更多人同时在更多方向上进行尝试。当前AI还有很多未知领域,开源能极大加快创新进程,更有生命力。”红帽大中华区首席架构师张家驹表示。

2024年11月,红帽又落子一项开源AI的重磅布局——收购Neural Magic。Neural Magic是高性能大语言模型服务框架和开源社区项目vLLM的引领者。vLLM 能够充分利用 GPU 算力,破解内存瓶颈,显著提升模型推理速度。此举意味着红帽将为企业复杂推理任务提供更强大的性能支持。

降低复杂度:统一平台,简化模型调优

在云计算和容器时代,红帽通过OpenShift为企业搭建统一管理、调度IT资源的平台。

AI时代,用私有数据训练、调优更符合业务需求的专有小模型,是企业AI的刚需。

红帽搭建了统一平台Red Hat Enterprise Linux AI(RHEL AI)和OpenShift AI,其包含模型、调用工具、开发工具和推理算法、模型管理系统,帮助企业完成从算力、模型、数据到应用开发的统一管理调度。

“我们有客户在生产环境同时跑DeepSeek、通义千问和其他模型,OpenShift AI可以帮助企业在一天之内完成资源的弹性扩缩。随着时间推移,红帽作为统一平台的优势会进一步放大。”曹衡康表示。

Instruct Lab是红帽推出的模型开发和调优工具,通过使用企业私有数据或合成数据,简化企业定制模型的复杂度。

当前,缺少高质量训练数据是很多企业应用AI时的普遍痛点。Instruct Lab可以通过AI生成合成数据,减少对大量高质量数据的需求。

某全球性大型通信公司需要对每天超过30万通客户电话进行分析,以提升客户满意度。借助红帽Instruct Lab将其自定义的大型语言模型与公司私有数据对齐,该公司实现了相比现有解决方案分析质量提升88%,相较于通用商业大模型成本降低80%。

提升灵活性:开放混合云,AI is Everywhere

如今,相当多企业的数据运行在混合多云的环境中。与之对应的,企业AI工作负载也需要灵活适配异构系统和多样性场景。

对于底层基础设施,红帽支持各种硬件加速器,如NVIDIA、AMD、Intel等GPU。对于多元IT环境,红帽无缝支持物理机、云端、边缘等各种场景。同时,也支持从单一服务器到大规模扩展的灵活部署。

“基于OpenShift AI,从模型调优到应用开发,无需进行任何额外调整,企业在平台上的所有操作和体验都是一致的。”红帽大中华区解决方案架构部高级总监王慧慧表示。

她还补充道,目前很多企业都在尝试部署DeepSeek一体机,但在生产环境中调度多台一体机成为新的挑战。借助OpenShift AI可以实现对集群的统一管理调度,屏蔽底层技术复杂性。

结语

曹衡康透露,2025年红帽将大力推进在中国市场的企业AI落地。具体将通过与企业共创的模式,比如联合举办AI主题训练营、快速验证典型场景并复制等方法。

开源AI时代已来。正如红帽CEO Matt Hicks强调的,“你可以随时选择在哪里使用AI,并且它是开源的。”

开源,已经成为AI技术平权浪潮中的主力,同时也在加速把AI应用的钥匙交到每一家企业手中。

END

本文为「智能进化论」原创作品。

智能进化论
专注云计算、AI、数字化转型领域深度报道。

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)