SiMa.ai正在为生成式人工智能嵌入边缘计算设备做准备
2023年06月25日 由 Samoyed 发表
147422
0
生成式人工智能正逐渐转向企业和边缘应用程序等实际应用。
总部位于美国的人工智能芯片初创公司Sima.ai宣布,其基于台积电16纳米技术的第一代人工智能芯片设计已进入量产阶段。SiMa.ai认为,为智能汽车、无人机和先进机器人等各种应用使用统一的芯片的传统方法阻碍了创新,因此他们的产品MLSoC(片上机器学习系统)是专门为边缘计算设计的。
“我们展示的是利用人工智能和机器学习将工业世界推进到21世纪的市场潜力。这些技术有推动现实世界变革和进步的能力。”SiMa.ai公司创始人兼首席执行官Krishna Rangasayee说。
尽管该公司尚未公开其详细的计划和战略,但Rangasayee向我们证实,这家初创公司正在为生成式人工智能嵌入式设备的未来做准备。“这是肯定会发生的事情。在我看来,生成式人工智能和大型语言模型(LLM)将成为每个人创新的重要组成部分,无论是在云计算、边缘还是手机领域,”Rangasayee说。
生成式人工智能
在当今时代,生成式人工智能具有变革性,并正在慢慢向嵌入式边缘空间发展。让Rangasayee觉得有趣的是,生成式人工智能正逐渐转向企业和边缘应用等实际应用。“有人告诉我,在生成式人工智能出现之前,世界上可能只有1亿人听说过人工智能,但现在这个数字已经超过了10亿。”
如今,许多企业都在探索在人工智能边缘设备上运行LLM的可能性。开发人员已经成功地在边缘设备上运行生成式人工智能模型。例如,今年早些时候,高通(Qualcomm)的开发人员成功地在Android手机上运行了文本到图像的人工智能模型Stable Diffusion,这预示着它的广泛采用的未来。鉴于其日益增长的重要性,预计生成式人工智能将被嵌入一切,SiMa.ai正在为这样的未来做准备。
与NVIDIA的竞争
Rangasayee表示:“尽管我们在嵌入式边缘领域与所有人竞争,但我们的主要竞争对手将是NVIDIA。”NVIDIA一直处于生成式人工智能浪潮的最前沿,也是其最大的受益者之一。借助生成式人工智能的趋势,该公司的收入将大幅增加。
此前,Rangasayee表示,他们的芯片比NVIDIA好10倍。他说,在计算机视觉领域,客户看重的一个重要技术指标是每瓦每秒帧数,用来衡量计算效率。我们在这方面有明显的优势,至少领先NVIDIA、高通等竞争对手10倍。
我们在嵌入式边缘市场确立了自己的优势。两个月前我们在首次亮相的MLPerf基准性能测试中进一步展示了我们的能力。在封闭边缘分类中,我们在几个基准测试中明显超过了NVIDIA Volta的性能。
“但他们值得称赞。他们做得很棒。我们需要非常努力地让我们的客户相信我们做得更好。尽管我们有了一个良好的开端,我认为现在我们已经得到了公众的认可,但我们现在需要向客户展示价值。”
来源:https://analyticsindiamag.com/sima-ai-gears-up-for-a-generative-ai-embedded-edge-future/