Google Cloud Next发布AlloyDB AI预览版,助力开发者构建生成式AI应用

2023年09月07日 由 daydream 发表 264 0

在最近的Google Cloud Next活动中,Google宣布了AlloyDB AI的预览版,作为AlloyDB for PostgreSQL的一个重要组成部分,这使得开发人员可以利用内置的端到端向量嵌入支持,通过AlloyDB AI,利用大型语言模型(LLMs)和实时操作数据构建生成式(gen)人工智能(AI)应用程序。


u=2372056909,1151856025&fm=253&fmt=auto&app=138&f=JPEG


早些时候,该公司推出了对Cloud SQL for PostgreSQL和AlloyDB for PostgreSQL的pgvector支持,为托管数据库提供了矢量搜索操作,使开发人员能够存储由大型语言模型(LLM)生成的矢量嵌入,并进行相似性搜索。AlloyDB AI构建在标准PostgreSQL提供的基本矢量支持之上,根据该公司的说法,开发人员“仅需几行SQL代码即可创建和查询嵌入,找到相关数据——无需专门的数据堆栈,也无需数据迁移”。


此外,AlloyDB AI为AlloyDB带来了其他一些新功能,可以帮助开发人员将其实时数据融入到生成式AI应用程序中:


  • 通过与AlloyDB查询处理引擎的紧密集成,提供了增强的矢量支持,查询速度比标准PostgreSQL更快。此外,该公司还引入了基于其ScaNN技术的量化技术,支持四倍的矢量维度和三倍的空间减少。
  • 可以访问存储在AlloyDB和托管在Vertex AI中的本地模型和远程模型,包括自定义和预训练模型。开发人员可以使用存储在AlloyDB中的数据训练和微调模型,然后将其部署为Vertex AI上的端点。
  • 与AI生态系统的集成,包括Vertex AI扩展(将于今年晚些时候推出)和LangChain,后者将提供使用SQL调用Vertex AI中远程模型的能力,用于低延迟、高吞吐量的增强交易,如欺诈检测等用例。


Google Cloud数据库部门总经理兼工程副总裁Andi Gutmans在Google的博文中写道:


AlloyDB AI允许用户使用简单的SQL函数将其数据轻松转换为矢量嵌入,并且矢量查询的运行速度比标准PostgreSQL快10倍。与开源AI生态系统和Google Cloud的Vertex AI平台的集成为构建生成式AI应用程序提供了端到端的解决方案。


Reddit帖子上的一位受访者问道,谷歌是否试图用AlloyDB AI拥抱,扩展和消灭(EEE)PostgreSQL,另一个回答是:


我想你想说的是,仅仅因为有人 - 特别是[大公司] - 试图改进/整合流行的开放项目并不意味着它总是EEE。


我怀疑EEE大部分最初并不是有意的,即使它可能在以后变成那样。对于谷歌来说,我认为这只是一个"我们如何为我们的产品增加价值以销售"的情况,然后是"这个功能对我们来说维护成本太高,让我们削减它并专注于[新特性]"。


此外,其他数据库和公共云提供商已经支持矢量嵌入,包括MongoDB、DataStax的Cassandra数据库服务Astra、开源PostgreSQL(通过Pgvector)和Azure Cognitive Search。后者最近也推出了预览版的新功能,可以对搜索索引进行索引、存储和检索矢量嵌入。


最后,AlloyDB AI在Google Cloud和AlloyDB Omni上的AlloyDB中无需额外费用。

文章来源:https://www.infoq.com/news/2023/09/google-cloud-alloydb-ai-preview/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消