您尚未登录账户
您的企业账号申请正在审核中
即将离任的 OpenAI 领导者表示，没有公司为 AGI 做好准备
Miles Brundage，作为OpenAI高级顾问专注于人工通用智能（AGI）准备工作的专家，在宣布离职时发出警示称，包括OpenAI在内，无人为AGI的到来做好准备。
Brundage在其声明中表示：“无论是OpenAI还是其他前沿实验室，都没有为AGI做好准备，世界同样没有准备好。”Brundage强调，这并非OpenAI领导层中的争议观点，但公司及世界能否在适当时候做好准备则是另一回事。
Brundage的离开是近期OpenAI安全团队一系列重要成员离职中的最新一例。此前，Jan Leike因认为“安全文化和流程已让位于闪亮的产品”而离开。联合创始人Ilya Sutskever也离职创立了专注于安全AGI开发的新公司。
Brundage的“AGI准备”团队解散，发生在公司解散致力于长期AI风险缓解的“超对齐”团队之后不久，这凸显出OpenAI原始使命与其商业目标之间的紧张关系。据报道，该公司面临在两年内从非营利组织转变为营利性的公共利益公司的压力，否则将不得不退还最近一轮66亿美元投资的部分资金。这一向商业化转变的趋势早在2019年OpenAI建立其营利部门时就引起了Brundage的关注。
在解释离职原因时，Brundage指出，公司在研究和出版自由度方面的限制日益增加，并强调了独立声音在人工智能政策讨论中的重要性。由于已在内部为领导层提供了关于准备情况的建议，Brundage认为，现在可以从组织外部更有效地影响全球AI治理。
此次离职也可能反映出OpenAI内部更深的文化分歧。许多研究人员加入时是为了推进AI研究，而现在却发现自己处于一个越来越注重产品的环境中。内部资源配置已成为一个争论焦点——据报道，在最终解散前，Leike的团队曾被拒绝提供用于安全研究的计算资源。
尽管存在这些摩擦，Brundage提到，OpenAI已经表示愿意无条件地为其未来的工作提供资金、API信用额度以及早期模型访问的支持。
