英伟达收购边缘优化平台OmniML的举动，可能会在边缘人工智能生态系统中激起涟漪。

英伟达(NVIDIA)人工智能竞赛中处于领先状态，而且这种势头短期内不会停止。这家芯片制造巨头一直在努力投资人工智能生态系统，为Inflection AI、RunwayML、Cohere等初创公司提供资金。该公司似乎也在通过收购建立自己的人工智能技术堆栈，从他们悄悄收购OmniML就可以看出。



 

OmniML是一家专注于压缩机器学习模型，以便将其部署到边缘设备上的公司。去年，它推出了一个名为Omnimizer的平台，该平台将计算量大的人工智能模型应用于低端硬件。似乎缩小模型背后的秘诀是英伟达想要的东西，所以在今年2月收购了这家初创公司。

英伟达尚未宣布此次收购，导致许多人猜测这一举动背后的原因。考虑到英伟达在边缘人工智能领域的地位，特别是在汽车、机器人和无人机等领域，OmniML可能是绿色团队需要的。

OmniML做什么

该公司于2021年由来自Facebook PyTorch部门的软件工程师Di Wu博士和曾在谷歌研究院移动视觉团队工作的Huizi Mao博士创立。他们将自己的专业知识与减少计算足迹的深度压缩技术的先驱Song Han博士结合起来，创建了OmniML。

OmniML的主要产品是Omnimizer，这是一个旨在快速轻松地进行大规模AI优化的平台。Omnimizer不再依赖不同的平台和产品来部署和优化边缘设备模型，而是为部署、培训和测量提供了一个单一的平台。除此之外，该平台还优化了模型，使其能够以最低功耗在设备上运行。

它通过将目标硬件纳入测试循环，使模型不仅更小、更快，而且更适合它们所运行的硬件。该模型通过使用神经架构搜索进行优化，这是一种用于检测给定神经网络的最佳架构的技术，受某些变量(如延迟和可用功率)的限制。

在该平台推出之前，OmniML获得了1000万美元的种子融资，由GSR Ventures和Foothill Ventures以及高通风投牵头。这轮融资表明，OmniML的努力并没有白费，因为人们对一个能够自动优化边缘模型的平台有着非常坚实的需求。

通过OmniML，公司可以很容易地调整他们的模型，使其在无人机、智能相机和汽车等设备上运行。这将有效地使模型摆脱对云的依赖，使快速、轻松地运行ML模型的能力民主化。考虑到这在未来几年可能带来的价值，难怪英伟达(NVIDIA)在其起步阶段就抢购了这家公司。

NVIDIA的边缘梦想

NVIDIA主要有3个边缘产品：用于企业边缘计算的NVIDIA EGX平台，用于工业应用的IGX平台，以及用于自主机器和嵌入式边缘案例的Jetson。该公司还优化了NVIDIA软件，使其可以在这些设备上运行，其客户也可以使用Fleet command平台来指挥他们的边缘设备。

Omnimizer平台将进一步加强这一全面的产品，因为它非常适合NVIDIA的边缘战略。通过添加Omnimiser中包含的自动模型优化技术，NVIDIA可以使边缘模型更加高效。这不仅使其能够将更大的模型安装在更小的设备上，而且还能创造出更有能力的模型，以满足在边缘运行的需要。

如前所述，OmniML在进行优化时还使硬件处于循环中。这意味着NVIDIA可以使用OmniML的技术堆栈为其硬件套件创建自定义配置文件，这将确保部署的模型尽可能高效地使用边缘硬件。

该战略的核心在于面向企业的NGC (NVIDIA GPU Cloud)目录。此目录为寻求快速简便的方法来大规模部署模型的企业提供了GPU优化的软件容器。目录中可用的边缘模型将高度受益于OmniML的优化。

如果这些模型使用此技术进行优化，NVIDIA将在边缘提供的模型中获得大量性能和效率提升。此外，客户的硬件也可以通过托管平台包含在优化软件中，从而创建一个良好的解决方案——无论配置如何都适合架构。

就像其他收购和投资一样，OmniML有助于巩固英伟达在人工智能市场的领导地位。如果OmniML继续作为一个独立的参与者，它仍然会为NVIDIA的技术堆栈带来价值，尽管是通过二阶效应。然而，作为绿色巨头的一部分，OmniML为巩固英伟达在边缘人工智能领域的地位提供了独特的附加值。

随着这家芯片制造巨头投资人工智能生态系统，并收购OmniML等初创公司，英伟达(NVIDIA)在人工智能竞赛中的不懈追求仍在继续。OmniML在边缘部署收缩ML模型方面的专业知识与NVIDIA在自动机器和工业应用等领域的存在完美结合。通过将OmniML的技术集成到其边缘产品中，NVIDIA可以优化模型，以便在低端硬件上进行有效部署。此外，OmniML保持硬件循环的能力使NVIDIA能够创建自定义配置文件，最大限度地利用其边缘硬件套件。这一战略举措加强了英伟达在人工智能市场的地位，并增强了其全面的优势人工智能战略。

 

来源：https://analyticsindiamag.com/why-nvidia-acquired-omniml/