OpenAI全面使用Facebook的Pytorch机器学习框架
2020年02月03日 由 KING 发表
627768
0
OpenAI近日宣布可能会在将来把项目迁移到PyTorch机器学习框架,而不是在多种平台间左右摇摆。OpenAI是位于旧金山的AI研究公司,由CTO Greg Brockman,首席科学家Ilya Sutskever,Elon Musk和其他人共同创立,并得到LinkedIn联合创始人Reid Hoffman和前Y Combinator总裁Sam Altman等名人的支持。在一篇博客文章中,该公司将PyTorch的效率、可扩展性和采用率作为其决定的原因。该公司在一份声明中说:“展望未来,我们将主要使用PyTorch作为我们的深度学习框架,但有时在有特定技术原因时使用其他框架。我们很高兴能加入一个快速增长的开发人员社区,包括Facebook和Microsoft这样的组织,以推动图形卡的规模和性能。”
OpenAI表示,其许多团队已经将其工作迁移到PyTorch,并将在未来几个月内为PyTorch社区做出贡献。此外,该公司表示,计划在2020年初在PyTorch 上提供Spinning Up in Deep RL教育资源,此后,该公司打算研究具有数据并行训练的可扩展AI系统,以模型可解释性可视化这些系统,并建立通用的目标机器人框架。(OpenAI正在为其高度优化的blockparse内核编写PyTorch绑定,并表示将在未来几个月内开源这些绑定。)
PyTorch于2016年10月在Facebook上公开发布,是一个基于Torch的开源机器学习库,Torch是一种科学计算框架和脚本语言,而该脚本语言又是基于Lua编程语言的。截至2018年3月,它并入了Caffe2,这是由加利福尼亚大学伯克利分校的研究人员率先开发,并由Facebook的AI研究实验室进一步开发的深度学习工具集。尽管TensorFlow的使用时间略长一些(自2015年11月起),但PyTorch继续在数据科学和开发人员社区中迅速普及。根据GitHub的2018 Octoverse报告,它在过去12个月中成为增长最快的开源项目平台之一。Facebook最近透露,在2019年,该平台的贡献者数量同比增长了50%以上,达到近1200名。The Gradient进行的分析发现,PyTorch实施了2019年每个主要的AI会议,并且O'Reilly 指出,仅在2019年上半年,PyTorch对论文的引用增加了194%以上。
毫不奇怪,在PyTorch之上构建了许多领先的机器学习软件项目,包括Uber的Pyro和HuggingFace的Transformers。软件开发商Preferred Networks最近加入了这一行列,并承诺在不久的将来从其定制的AI开发框架Chainer迁移到PyTorch。