开源软件巨头Red Hat宣布正式推出其专为生成式人工智能(AI)开发设计的Red Hat Enterprise Linux AI(RHEL AI)平台,该平台旨在支持在混合云环境中进行生成式AI的开发。该平台于三个月前在Red Hat峰会上首次公布,现已全面开放使用。
RHEL AI集成了IBM开发的大型开源语言模型Granite系列,以及Red Hat自身构建的InstructLab模型对齐工具,以优化的、可启动的RHEL镜像形式提供,适用于混合云和本地环境中的单个服务器部署。
该平台旨在通过提供一种更易于访问的方式,促进更小、成本更低的通用生成式AI模型的开发。生成式AI技术虽然前景广阔,但其高昂的成本往往令人望而却步。据Red Hat指出,一些领先的生成式AI模型仅训练成本就可能接近2亿美元,这还不包括数据和对齐成本,后者是使模型适应特定用户任务所必需的。
Red Hat认为,未来的趋势将是更小的生成式AI模型,且大多数将采用开源方式,类似于现代软件的普遍开发模式。RHEL AI旨在成为构建这些低成本、开源生成式AI模型的首选平台。该平台提供了一系列可免费使用的Granite大型语言模型(LLMs),这些模型已预先进行了赔偿和对齐,适用于一系列常见的生成式AI用例。
InstructLab工具则帮助用户利用专有知识和数据对模型进行微调,无需高级数据科学技能。通过RHEL AI,企业可以在混合云的任何位置训练和部署生成式AI,靠近其数据存储位置。此外,该平台还为迁移到Red Hat的OpenShift AI平台提供了途径,以便使用相同的工具和概念进行生成式AI模型的训练、调优和服务。
RHEL AI针对Dell Technologies的最新PowerEdge服务器进行了优化,并提供了Red Hat订阅的所有好处,包括产品分发、24/7支持、扩展的模型生命周期支持和模型知识产权赔偿,以及开源保障法律保护。
RHEL AI作为Red Hat Enterprise Linux的扩展,可以在各种信息技术环境中运行,包括本地服务器和云基础设施平台如亚马逊网络服务(AWS)、谷歌云、IBM云和微软Azure。目前,该平台已在AWS、IBM云和本地服务器上作为“自带订阅”产品提供,并计划在今年晚些时候登陆谷歌云和Azure,明年则将以“即服务”形式在IBM云上推出。