谷歌发布Edge TPU芯片和Cloud IoT Edge,将机器学习带到边缘设备

2018年07月26日 由 浅浅 发表 257741 0
谷歌发布Edge TPU芯片和Cloud IoT Edge,将机器学习带到边缘设备

谷歌为其机器学习框架TensorFlow定制的芯片——TPU正在向边缘设备发展。在旧金山举行的Cloud Next会议上,谷歌宣布推出Edge TPU和Cloud IoT Edge。

Edge TPU


Edge TPU是一种专为工业制造和物联网设备量身定制的架构。

Edge TPU与加速谷歌数据中心算法的芯片不太相似,那些TPU是在5月份的I / O开发者大会上宣布的第三代TPU,是液体冷却设计用于插入服务器机架。它们已在内部为Google相册,Google Cloud Vision API调用和Google搜索结果等产品提供支持。

相比之下,尺寸约为一美分硬币的四分之一大小的Edge TPU可以离线和在本地运行计算,对传统的微控制器和传感器进行补充。

它们不训练机器学习模型,而是使用TensorFlow的轻量级低成本版本进行推理(预测),这比完整堆栈框架更节能。

也就是说,两个TPU相当于从同一块布料上切割下来的,它们是专用集成电路(ASIC),针对特定工作负载进行了优化的可编程芯片。这使得它们在执行诸如从数据集(在云TPU的情况下)中训练机器学习模型以及在设备上执行这些模型(Edge TPU的功能)等任务时非常高效。

谷歌发布Edge TPU芯片和Cloud IoT Edge,将机器学习带到边缘设备

谷歌还构建了一个开发套件,由Edge TPU,NXP芯片和Wi-Fi模块组成。开发套件将在10月对开发者开放。

谷歌表示已与Arm,Harting,Hitachi Vantara,Nexcom,诺基亚和恩智浦等制造商合作,将这些套件推向市场。

LG最初部署Edge TPU的合作伙伴之一就是在生产线上的检测设备中使用它们。LG的CNS集团首席技术官Shingyoon Hyun表示,这些芯片有助于在液晶电视面板生产过程中每秒检查200多张玻璃图像,准确度达到99.9%。

Cloud IoT Edge


Cloud IoT Edge是一种将Google Cloud强大的AI功能扩展到网关和连接设备的软件堆栈。你可以在云中构建和训练ML模型,然后通过Edge TPU硬件加速器的功能在Cloud IoT Edge设备上运行这些模型。

谷歌发布Edge TPU芯片和Cloud IoT Edge,将机器学习带到边缘设备

Cloud IoT Edge使物联网应用更智能,更安全,更可靠。它允许你在Edge TPU或基于GPU和CPU的加速器上执行在Google Cloud中训练的ML模型。Cloud IoT Edge可以在Android Things或基于Linux OS的设备上运行,其关键组件包括:

  • 具有至少一个CPU的网关类设备的运行时,可以从边缘数据本地存储,转换,处理和派生智能,同时与云IoT平台的其余部分无缝互操作。

  • Edge IoT Core运行时更安全地将边缘设备连接到云,支持软件和固件更新,并通过Cloud IoT Core管理数据交换。

  • 基于TensorFlow Lite的Edge ML运行时使用预先训练的模型执行本地ML推理,显着减少延迟并增加边缘设备的多功能性。由于Edge ML运行时与TensorFlow Lite接口,因此它可以在网关类设备中的CPU,GPU或Edge TPU上执行ML推理,或者在终端设备(如摄像头)中执行ML推理。


除Edge TPU外,Google还推出了一系列新的G Suite和Google Cloud功能,包括基于AI的语法工具,增强型文档搜索,FIDO密钥和新的AutoML服务。

 
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消