您尚未登录账户
您的企业账号申请正在审核中
前OpenAI员工和AI专家要求总检察长阻止营利性转换
OpenAI 的前员工以及 30 名人工智能专家发表了一封公开信，要求加利福尼亚州和特拉华州的总检察长阻止该公司重组为“营利性公益公司”。
诺贝尔奖获得者、前 Google Brain 领导者 Geoffrey Hinton 与人工智能先驱 Yoshua Bengio 和 Stuart Russell 以及 11 名 OpenAI 员工（包括 4 名现任（匿名）员工和 7 名前员工）联手敦促公司避开可能不道德的商业冒险。
签署者包括前 Google DeepMind 的 Ramana Kumar 和现任 DeepMind 研究员和前 Anthropic 员工的 Neel Nanda。他们加入了埃隆马斯克的行列，马斯克还表示，从非营利模式转变为营利模式并不是他帮助资助的使命，这导致他发起了诉讼。
马斯克的个人使命有些可疑，因为他还拥有一家与之竞争的人工智能公司。也许正是出于这个原因，今天 Hinton 说：“我很高兴有人努力让 OpenAI 完成其使命，而不涉及埃隆马斯克。
在信中，签署者声称，通用人工智能 （AGI） 的发展不应该掌握在一家以赚钱为导向的公司手中。AGI 是 AI 在智能方面达到等于或高于人类的概念，他们认为这不应该是为了私人利益，而是为了所有人的利益。
OpenAI 的创始使命正是基于这一点——“为人类的利益构建安全有益的通用人工智能的目标”。2017 年，当 OpenAI 首席执行官 Sam Altman 在伦敦发表讲话时，他加倍强调这一点，他说：“我们永远不想做出有利于股东的决定。我们唯一想对的人负责的是整个人类。
签署者表示，人工智能的好处是“前所未有的”，但他们警告说，人工智能落入坏人之手可能会加剧“现有的不平等、纵和错误信息”，同时“可能导致人类灭绝”。他们引用了一些专家、人工智能公司和政府的话，这些公司分别对这个可能危及生存的难题表示担忧。
“人工智能公司有强烈的经济动机来逃避有效的监督，我们认为定制的公司治理结构不足以改变这一点，”信中补充说。OpenAI 已经成为一个巨头，目前价值 3000 亿美元。
作者还认为，由于“广泛的保密协议”，现任和前任员工在谈论他们的担忧时受到阻碍。他们说，公司几乎没有与政府或公众共享信息的压力，有效地将改变世界的技术交到少数人手中。“我们认为不能指望他们都自愿分享，”他们说。
作为回应，OpenAI 表示，对公司的任何变化“都将是为了确保更广泛的公众能够从 AI 中受益”。它补充说：“这种结构将继续确保随着营利性组织的成功和发展，非营利组织也会成功和发展，使我们能够实现使命。
