您尚未登录账户
您的企业账号申请正在审核中
苹果突破本地部署LLM，开源Ferret模型引关注
苹果和哥伦比亚大学的研究人员在2023年10月低调发布了一种开源的多模态大型语言模型（LLM），名为Ferret。当时，这一发布（包括代码和权重，但仅限于研究用途，不包括商业许可）并没有引起太多关注。但现在情况可能有所变化：随着Mistral的开源模型近期成为新闻焦点，谷歌的Gemini模型登陆Pixel Pro，并最终应用于Android，有关在小型设备上运行本地LLMs的可能性的讨论也随之增多。
最近，苹果宣布在iPhone上部署LLMs取得了关键性突破，公司发布了两篇新的研究论文，介绍了3D虚拟形象和高效语言模型推理的新技术。这些进展被视为可能实现更具沉浸感的视觉体验，并允许复杂的AI系统在消费者设备上运行，如iPhone和iPad。
AI社区中许多原本没有注意到Ferret发布的人现在庆祝苹果出人意料地加入了开源LLM领域，尤其是鉴于苹果一直被视为“围墙花园”。
近期，一个专注于医学开源AI的欧洲非营利组织的负责人Bart de Witte在X上发帖说：“我不知何故错过了这个消息。”他写道。“苹果在10月加入了开源AI社群。Ferret的推出证明了苹果对有影响力的AI研究的承诺，巩固了其作为多模态AI领域领导者的地位……另外，我期待着那一天，本地大型语言模型（LLLMs）能作为重新设计的iOS的内置服务在我的iPhone上运行。”
科技博主和VentureBeat撰稿人Ben Dickson在LinkedIn上写道：“2023年你最意想不到的AI发展是什么？对我来说，是苹果发布了开源LLMs（虽然带有非商业许可）。”他补充说，苹果“一直是封闭系统、围墙式开发、保密、牢不可破的保密协议、不公开细节、对其所有产品进行专利申请的典范。”
但他接着说，“回过头来看，对于苹果（像Meta一样）用开源模型进入LLM市场来说，这是有道理的。要与ChatGPT这样的模型竞争，你要么需要成为一个超大规模运营商（hyperscaler），要么需要与其建立伙伴关系。苹果可能资源丰富，但其基础设施并不是为大规模提供LLM服务而建立。另一种选择就是依赖像微软或谷歌这样的云服务提供商（都是竞争对手），或者开始像Meta那样发布自己的开源模型。”
有趣的是，关于苹果的开源及本地ML发展的新闻出现之际，据报道Anthropic和OpenAI都在为他们的专有LLM开发工作筹集大笔新资金。据路透社报道，Anthropic正在与Menlo Ventures洽谈筹集7.5亿美元的资金，而彭博社报道称，OpenAI“正在初步讨论筹集新一轮资金，估值可能达到或超过1000亿美元。”
