随着人工智能热潮的持续,就连微电脑公司Raspberry Pi也计划出售AI芯片。这款芯片与Raspberry Pi的摄像头软件相集成,可以直接在微型电脑上运行基于AI的应用,如聊天机器人。
Raspberry Pi与芯片制造商Hailo合作推出了AI套件,这是Raspberry Pi5型微电脑的一个附加设备,将运行Hailo的Hailo-8L M.2加速器。这些套件“很快就会通过全球Raspberry Pi授权经销商网络”以70美元的价格出售。
Hailo的CEO兼联合创始人Orr Danon表示,其加速器的“功耗低于2瓦,并且是被动散热”。这款加速器提供每秒13万亿次操作(TOPS),低于为AI笔记本电脑设计的芯片,如英特尔的40 TOPS Lunar Lake处理器。
大多数AI应用都在云端运行,因为它们往往需要大量的能源和计算能力才能工作。然而,为了将AI带到便携式设备上,已经出现了一种趋势,即制造更小的AI模型和处理器,这些处理器需要更少的电力。这样一来,笔记本电脑和手机就可以运行编码助手或基于AI的照片编辑应用,而无需进行API调用。
目前,个人电脑和其他便携式设备上的AI是一个大趋势,因为许多硬件制造商都在寻求从AI需求中获利。微软透露,其笔记本电脑合作伙伴将发布Copilot Plus个人电脑,这些电脑具有内置的AI功能,如备受争议的Recall。AMD宣布了新的AI品牌Ryzen处理器,指出其旗舰芯片现在可以运行生成式AI工作负载。英伟达(Nvidia)也将在笔记本电脑中提供AI芯片,该公司生产了备受追捧的H100 GPU,用于训练像GPT-4o这样的大型语言模型。