Poolside与公共云服务提供商Amazon Web Services (AWS) 建立了合作关系。此次合作意味着通过亚马逊的Bedrock服务平台,用户能够获取到由Poolside提供的基础模型和生成式AI助手。
在AWS re:Invent 2024大会上宣布的合作细节显示,客户将可以通过私有且安全的方式利用这些基础模型,结合自有数据来创建定制化的编码辅助工具。此前,Poolside曾在10月份完成了由Bain Capital Ventures领投的5亿美元B轮融资,其他参与者包括Nvidia Corp.、eBay Inc.等。Poolside致力于开发一系列用于软件编写的生成式AI编码模型,成为GitHub Copilot的竞争者之一。
Poolside的模型已应用于多家全球2000强企业,但公开的具体案例有限。这些模型采用基于强化学习的方法进行训练,依据代码执行反馈逐步优化性能。此外,Poolside还提供了一套针对AI训练任务的软件工具包以及评估模型准确性的工具。
亚马逊Bedrock作为一个完全托管的服务平台,使得开发者能够通过单一的应用程序接口访问来自不同领先AI公司的高性能基础模型。借助这一平台,Poolside的模型可以更容易地满足企业在隐私、安全及合规方面的要求,并允许在相同的安全环境中部署模型与训练数据。
作为合作的一部分,Poolside计划使用AWS Trainium芯片为Malibu和Point模型提供推理支持,以实现成本效益最大化。Trainium芯片是专门设计的人工智能加速器,能降低运行成本。
两家公司之前已有过合作,Poolside的“从代码执行反馈中学习”的技术已经在AWS基础设施上运行,每分钟可处理高达10,000次代码执行。这项技术使Poolside能够在不依赖客户数据的情况下,通过对现实世界代码库的真实编程任务进行大规模合成训练数据的生成,从而持续改进模型质量。
Poolside与AWS的合作还旨在简化客户在采购、合同签订及预算方面的流程,便于开始尝试这些模型。