Red Hat谈用于负责任、实用的AI的开放式小型语言模型

2025年04月23日 由 alex 发表 4069 0

随着地缘政治事件塑造世界,它们对技术产生影响也就不足为奇了——具体来说,它们影响着当前人工智能(AI)市场的变革方式,以及其被接受的方法论、开发方式以及在企业中的应用方式。


目前,人们对AI结果的预期与现实情况达到了平衡。人们对这项技术仍存有大量疑虑,不过,同样也有许多人在其当前发展的萌芽阶段就对其表示欢迎。像Llama、DeepSeek以及百度最近发布的Ernie X1等实例正在挑战知名大型语言模型(LLM)的闭环特性。


相比之下,开源开发提供了透明度以及反馈贡献的能力,这更符合“负责任AI”的诉求:这一说法涵盖了大型模型对环境的影响、AI的使用方式、其学习语料库的构成,以及数据主权、语言和政治方面的问题。


作为一家证明经济上可持续的开源开发模式对其业务的可行性的公司,Red Hat 希望将其开放、协作和社区驱动的 AI 方法扩展到 AI。我们最近采访了 Red Hat 的 EMEA 首席技术官 Julio Guijarro,了解了该组织如何以负责任、可持续和尽可能透明的方式,以为企业带来价值的方式释放生成式 AI 模型毋庸置疑的力量。


Julio强调,为了让人们更全面地了解AI,还需要开展大量教育工作,他表示:“鉴于AI内部运作的重大未知因素(这些因素源于复杂的科学和数学),对许多人来说,它仍然是一个‘黑箱’。在那些主要在难以访问的封闭环境中开发AI的情况下,这种缺乏透明度的情况就更加严重了。”


此外,还存在着语言(欧洲和中东语言在很大程度上未得到充分服务)、数据主权以及从根本上来说的信任问题。“数据是组织最宝贵的资产,企业需要确保自己意识到将敏感数据暴露给具有不同隐私政策的公共平台所带来的风险。”


Red Hat的应对之策

Red Hat对全球AI需求的回应是,追求其认为能为用户带来最大利益的东西,并消除在部署默认AI服务时迅速显现的诸多疑虑和警告。


Julio表示,其中一个解决方案是小型语言模型(SLM),它们可以在本地或混合云上运行,使用非专用硬件,并访问本地业务信息。SLM是LLM的紧凑、高效替代品,旨在为特定任务提供强大性能,同时所需的计算资源显著减少。有一些较小的云提供商可用于卸载部分计算任务,但关键在于拥有灵活性和自由度,以便在需要时选择将关键业务信息保留在内部,靠近模型。这一点很重要,因为组织内的信息变化迅速。“大型语言模型面临的一个挑战是,它们可能会很快过时,因为数据生成并不发生在大型云中。数据就在您身边以及您的业务流程中产生,”他说。


此外,还有成本问题。“您的客户服务查询LLM可能会产生显著的隐藏成本——在AI出现之前,您知道当您进行数据查询时,其范围是有限且可预测的。因此,您可以计算出该交易的成本。在LLM的情况下,它们采用迭代模型工作。因此,您使用得越多,其答案就可能越好,您越喜欢它,就可能提出更多问题。而每次交互都会让您付出金钱。因此,原本只是一次交易的一次查询,现在可能会变成一百次,具体取决于谁以及如何使用该模型。当您在本地运行模型时,您可以拥有更大的控制权,因为其范围受限于您自己基础设施的成本,而不是每次查询的成本。”


然而,组织无需为采购GPU而准备一张巨额支票。Red Hat目前工作的一部分是优化模型(当然是在开源的情况下),使其能够在更标准的硬件上运行。这是可能的,因为许多企业将使用的专业模型并不需要每次查询都要以高成本处理的庞大通用数据语料库。


“目前正在进行的许多工作是,人们正在研究大型模型,并删除特定用例中不需要的所有内容。如果我们想让AI无处不在,就必须通过小型语言模型来实现。我们还专注于支持和改进vLLM(推理引擎项目),以确保人们能够以高效且标准化的方式与所有这些模型进行交互,无论他们希望在何处进行交互:本地、边缘端还是云端,”Julio说。


保持小巧

使用和引用与用户相关的本地数据意味着可以根据需求定制结果。Julio引用了在阿拉伯语和葡萄牙语世界开展的项目,这些项目在使用以英语为中心的知名LLM时是不可行的。


此外,早期采用组织在日常使用LLM时还发现了其他几个实际问题。首先是延迟问题——这在时间敏感或面向客户的场景中可能会成为问题。将重点资源和针对性结果仅隔一两个网络跳转的距离进行部署是有意义的。


其次,是信任问题:这是负责任AI的一个组成部分。Red Hat倡导开放平台、工具和模型,以便我们能够迈向更大的透明度、理解度,并让尽可能多的人能够做出贡献。“这对每个人来说都至关重要,”Julio说。“我们正在构建能力以实现AI民主化,这不仅仅是发布一个模型,而是为用户提供能够复制、调整和提供这些模型的工具。”


Red Hat最近收购了Neural Magic,以帮助企业更轻松地扩展AI、提高推理性能,并通过用于开放模型服务的vLLM项目为企业构建和部署AI工作负载提供更多选择和可访问性。Red Hat还与IBM Research共同发布了InstructLab,为那些不是数据科学家但拥有正确业务知识的潜在AI构建者打开了大门。


关于AI泡沫是否或何时会破裂,人们有很多猜测,但此类讨论往往倾向于大型LLM提供商很快将不得不面对的经济现实。Red Hat认为,AI将以面向特定用例且本质上开源的形式拥有未来,这将是一种具有商业意义且可供所有人使用的技术。引用Julio的老板、Red Hat首席执行官Matt Hicks的话来说:“AI的未来是开放的。”

文章来源:https://www.artificialintelligence-news.com/news/red-hat-on-open-small-language-models-for-responsible-practical-ai/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消