微软发布Phi Silica小型语言模型提升AI体验

2024年05月22日 由 daydream 发表 312 0

微软最近推出了Phi Silica,这是其Phi系列小型语言模型(SLMs)的新成员,专门针对公司最新发布的Copilot+个人电脑中的神经处理单元(NPUs)进行了设计。


微信截图_20240522114716


Phi Silica作为Phi系列中最小的模型,拥有高达33亿个参数。尽管体型小巧,但其性能却十分出色,每秒能处理650个令牌,并且功耗仅为1.5瓦特。这样的效率让PC的CPU和GPU得以解脱,可以更加专注于处理其他任务,从而提升整体计算体验。在令牌生成方面,它巧妙地利用NPU的KV缓存,并在CPU上运行,每秒能生成大约27个令牌。


微信截图_20240522114746


开发人员现在可以通过Windows应用SDK访问Phi Silica的API,以及其他基于AI的强大功能,如OCR、Studio Effects、Live Captions和Recall User Activity API。这种整合使得开发人员能够创建更多利用Windows生态系统中AI力量的创新体验。微软还计划在未来发布更多API,如Vector Embedding、RAG API和Text Summarization。


Phi Silica与Phi-3系列的其他模型,如Phi-3-mini(38亿参数)、Phi-3-small(70亿参数)、Phi-3-medium(140亿参数)以及最近公布的Phi-3-vision(42亿参数)一起,共同构成了强大的模型阵容。但Phi Silica作为首款与Windows一同提供的前沿SLM,无疑是一个重要里程碑,标志着微软将先进的AI能力直接带给了最终用户。


微软在宣布Copilot+个人电脑后不久,就推出了Phi Silica。这款电脑承诺将搭载专用的AI处理器,为用户提供前所未有的智能体验。首批Copilot+个人电脑预计将在6月中旬上市,并搭载高通的基于Arm的骁龙X Elite和Plus芯片。微软以及各大电脑制造商预计将在整个夏季陆续推出这些搭载AI的笔记本电脑。此外,英特尔也在积极开发自己的Copilot+个人电脑处理器,代号为Lunar Lake,预计将于2024年第三季度正式发布。


随着微软在小型语言模型领域的不断投入和将AI深度整合到Windows平台中,Phi Silica的推出标志着在使先进的AI功能对开发人员和最终用户更加可用方面取得了重大进展。

文章来源:https://www.maginative.com/article/microsoft-unveils-phi-silica-a-small-language-model-for-copilot-pcs/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消