Qualcomm想要把ChatGPT放进你的手机里
2023年06月06日 由 Samoyed 发表
326107
0
利用混合人工智能技术,生成式人工智能开发者和提供商可以利用边缘设备所提供的计算能力,从而实现成本降低。
据报道,Qualcomm正致力于通过其新一代处理器在智能手机上运行GPT-4和DALL-E2等人工智能模型。目前,用户可以通过网络访问这些模型,也可以通过移动应用程序(目前是iOS设备)访问这些模型。然而,应用程序依然要在网络上运行,并且付出高昂的成本。SemiAnalysis公司的首席分析师Dylan Patel表示运行ChatGPT每天要花费OpenAI约70万美元。这些费用主要用于运行服务器。帕特尔认为,运行GPT-4的成本可能会更高,GPT-4是迄今为止最先进的大型语言模型。
Qualcomm公司在今年5月发布的白皮书中表示,预计基于生成式人工智能的每次查询的搜索成本将比传统搜索方式增加10倍。因此,混合人工智能的利用使生成式人工智能开发人员和提供商能够利用边缘设备提供的计算能力,从而降低成本。
“ 混合人工智能架构(或仅在设备上运行人工智能)在全球范围内提供了性能、个性化、隐私和安全的额外优势。”Qualcomm说。
每个设备上的人工智能
今年早些时候,一些Qualcomm的工程师成功地在安卓设备上运行了文本生成图像的人工智能模型Stable Diffusion。有趣的是,Qualcomm可能不是唯一一家致力于在设备上运行人工智能模型的公司。
苹果也在开发和推广设备上的人工智能模型,用于语音识别、自然语言处理和计算机视觉等一系列任务。
苹果公司一直在大力投资开发可在iPhone、iPad和Mac等设备上运行的人工智能芯片和算法。目前,尚不清楚苹果是否正在构建任何GPT模型,但苹果可能会推出完全在苹果设备上运行的类似技术,为用户提供更快、反应更快、更个性化的体验。
运行人工智能模型可能是谷歌和微软等许多公司的做法,这两家公司正在争夺人工智能的霸主地位。今年早些时候,一位开发人员已经展示了他是如何在笔记本电脑上完全运行ChatGPT3.5 turbo这样的模型的。
来源:https://analyticsindiamag.com/qualcomm-wants-to-bring-chatgpt-to-your-phone/