您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI前研究员加入竞争对手Anthropic
2024年05月29日 由 samoyed 发表
109
0
Jan Leike，这位本月早些时候以“安全顾虑”为由从OpenAI辞职的关键研究员，已经加入竞争对手Anthropic，以“从事可扩展的监督、弱到强的泛化以及自动化对齐研究”。
Anthropic将自己定位为OpenAI的对立面：一个致力于谨慎进步的公益公司。据《金融时报》报道，它由前OpenAI员工创立，他们离职是因为认为OpenAI在微软10亿美元的交易后，逐渐偏离了开发更安全、更道德的AI的使命，变得过于注重商业利益。对于那些关注AI领域的人来说，Leike加入Anthropic并不意外。
“我们早就应该极其认真地对待AGI（通用人工智能）的影响。我们必须尽我们所能地为它们做好准备，”Leike在几周前关于他辞职的后续帖子中说。“只有这样，我们才能确保AGI造福全人类。”
Leike之前曾在OpenAI的“超级对齐”团队工作，这似乎与他在Anthropic的角色相契合，即确保智能系统的设计符合人类价值观。在宣布辞职后的帖子中，Leike批评OpenAI没有提供足够的计算资源来确保成功。
Anthropic则采用“宪法AI”，通过收集公众意见并整合来自如联合国《世界人权宣言》等来源的概念，将道德原则融入AI模型的训练中，正如我之前所报道的。
另一位引人注目的OpenAI离职人员是其联合创始人Ilya Sutskever，他在本月早些时候离职，据报道自去年11月他领导针对CEO Sam Altman的未遂政变以来就一直缺席公司。尽管Sutskever已经辞职且尚未透露下一步动向，但他的价值观与Anthropic相符，使他成为与Leike一样，一个可能加入Anthropic的合适人选。
文章来源：https://j0h8vfpd07.feishu.cn/sheets/PJb2sVanbhCPWHtADGXcA2qAnYf?sheet=WHSGEV
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消