ChatGPT母公司OpenAI的现任和前任员工组成了一个联盟，对先进人工智能带来的存在性威胁发出了警告，包括可能导致人类灭绝的潜在风险。

在6月4日发布的一封详细信件中，这个由OpenAI、Anthropic和谷歌DeepMind等公司的13名现任和前任员工组成的团体概述了与人工智能相关的一系列威胁，尽管它也存在潜在的益处。

信中写道：“我们是前沿人工智能公司的现任和前任员工，我们相信人工智能技术的潜力将为人类带来前所未有的益处。”然而，它也强调了担忧：“这些风险范围广泛，从现有不平等的进一步加剧，到操纵和误导信息，再到失去对自主人工智能系统的控制，最终导致人类灭绝。”

Neel Nanda是DeepMind的机械解释性负责人，曾任AnthropicAI的员工，是签名者之一。他在X上写道：“这并不是因为我现在或以前的雇主有任何我想警告的事情，或者对他们对待举报人的态度有任何具体的批评。”但他认为，“通用人工智能（AGI）将产生极其严重的后果，正如所有实验室所承认的那样，它可能构成一种存在性威胁。任何寻求制造AGI的实验室都必须证明自己值得公众信任，而员工拥有强大且受保护的举报权是关键的第一步。”

人工智能缺乏问责制和监管

支持者表示，虽然人工智能公司和全球政府都认识到这些危险，但目前的公司和监管措施不足以防止这些危险。“人工智能公司有强烈的财务动机避免有效的监督，我们认为，定制的公司治理结构不足以改变这一点，”他们争辩道。

随后，它批评了人工智能公司的透明度，称他们掌握着“关于其系统能力和局限性的大量非公开信息，其保护措施的充分性，以及不同类型伤害的风险水平。”它指出了这些公司缺乏披露此类关键信息的义务，指出：“他们目前仅对政府有微弱的义务分享这些信息，而对民间社会则没有。”

这些员工表达了对政府监督和公共问责制的迫切需求。“只要没有对这些公司进行有效的政府监督，现任和前任员工就是少数几个能让它们对公众负责的人，”该团体表示。他们还展示了现有举报人保护机制的局限性，这些机制并没有完全涵盖人工智能技术带来的不受监管的风险。

OpenAI处于风口浪尖

这封公开信正值主要人工智能公司，特别是OpenAI发生动荡之际。OpenAI一直在推出具有先进功能的人工智能助手，这些助手能够与人类进行实时语音对话，并对视频流或书面数学问题等视觉输入做出响应。

曾在电影《她》中扮演人工智能助手的斯嘉丽·约翰逊指责OpenAI在未经她明确同意的情况下，以她的声音为模型来制作其一款产品。尽管OpenAI在推出语音助手时，其首席执行官在推特上提到了“她”这个词，但该公司随后否认了使用约翰逊的声音作为模型的说法。

今年5月，OpenAI解散了一个专门调查与人工智能相关的长期威胁的团队，而这个团队成立还不到一年。去年7月，OpenAI的信任与安全主管戴夫·威尔纳也辞去了职务。