谷歌发布Gemini Nano:一款能在手机上运行的大型语言模型

2023年12月07日 由 neo 发表 698 0

Gemini可能是Google开发过的最大、最强大的大型语言模型(LLM),但它只能在数据中心运行,不适合手机。于是,谷歌推出了Gemini Nano,一个缩小版的Gemini,能在你的设备上本地和离线运行。不过,现在只有Pixel 8 Pro能用Nano,谷歌认为这个新模型是Android未来的核心部分。

QQ截图20231207133835

如果你有一个Pixel 8 Pro,从今天开始,你的手机上有两件事情用了Gemini Nano:Recorder应用的自动摘要功能,和Gboard键盘的Smart Reply部分。这两个都是Pixel的12月特色下降的一部分。因为模型是在设备上运行的,所以它们都能离线工作,而且快速和原生。

谷歌对Gemini Nano的起步很小。Smart Reply功能只在WhatsApp中用了Gemini,但谷歌说明年会有更多应用。Gemini整体只在英语中推出,所以很多用户用不了。你的Pixel 8 Pro不会感觉像升级了——虽然以后可能会,如果Gemini像谷歌说的那样好。明年,谷歌会把用Gemini驱动的Bard带到Pixel手机上的Assistant,你会有更多Gemini体验。

Nano是Gemini模型中最小的(嘘),但谷歌DeepMind的首席执行官Demis Hassabis说,它还是很强大。“它要适应一个占地面积,对吧?”他说。“Pixel手机的占地面积很小。所以有内存限制、速度限制,什么的。它是一个令人难以置信的模型,考虑到它的大小——而且它可以从更大的模型中受益,通过提炼和那种东西。”Nano的目标是做一个Gemini的版本,能力尽可能高,而不会占用你手机的存储空间或把处理器加热到太阳的温度。

目前,谷歌的Tensor 3处理器似乎是唯一能运行该模型的处理器。但谷歌也在努力把Nano构建到Android中:它推出了一个新的系统服务,叫做AICore,开发者可以用它把Gemini驱动的功能加到他们的应用中。你的手机还是需要一个高端的芯片才能用它,但谷歌在宣布该功能的博客文章中提到了高通、三星和联发科等公司,它们在制造兼容的处理器。开发者现在可以进入谷歌的早期访问计划。

在过去的几年里,谷歌一直说它的Pixel手机是AI设备。有了Tensor芯片和与谷歌所有服务的紧密联系,它们应该会越来越好、越来越聪明。有了Gemini Nano,这可能会成为许多高端Android设备的真实情况。就目前而言,这是花钱买Pixel 8 Pro的一个最好的理由。

文章来源:https://www.theverge.com/2023/12/6/23989591/google-gemini-ai-model-pixel-8-pro-recorder-smart-reply
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消