在《硅谷》的新一集中，观众们被OpenAI董事会突然且意外地解雇共同创始人兼首席执行官Sam Altman的消息震惊了。当担任总裁及董事会主席的Greg Brockman也辞职时，这意外转折的情节进一步放大了。

这导致 Mira Murati，OpenAI 的首席技术官，被任命为临时首席执行官。Murati 是唯一一个在 Altman 被解雇和 Greg 离开董事会的前一晚知道这些情况的人，同时她保留着在公司的角色。管理团队在解雇后不久就被通知了这些情况。

跟随这一消息，Murati 向她的员工发送了一封鼓励他们专注于任务的员工通告。据彭博社报道，Murati 表示她为能够担任领导职位感到“荣幸和谦卑”，并强调维持专注、决心和坚持核心价值观的重要性。

Murati 有阿尔巴尼亚血统，35岁，在旧金山长大，她在达特茅斯完成了机械工程学士学位。她曾在高盛、法国航空航天公司 Zodiac Aerospace 以及 Elon Musk 的 Tesla 担任要职，在那里她担任了“Model X”车型的高级产品经理。

在 Leap Motion 担任产品和工程副总裁后，她于2018年加入 OpenAI，担任应用 AI 和合作伙伴关系副总裁，最终晋升为首席技术官，现在是临时首席执行官。

Murati 在发布诸如 DALL·E 2、DALL·E 3、ChatGPT、GPT-4等开创性 AI 项目中发挥了关键作用。虽然她通常在幕后操作，但 Murati 已经开始公开露面，讨论 AI 工具的影响并倡导负责任的 AI 法规，强调在制定道德政策时，需要更多超出科技公司之外的广泛参与。

Murati 曾在一次采访中提到，在 Leap 工作期间，她意识到 AGI 将是最终也是最重要的技术里程碑，并且相信当时只有 OpenAI 致力于推进 AI 能力的同时也确保其负责任的发展，她想要加入他们。

方法的差异

Murati 最近开始更多地公开露面，这为我们提供了她在导航 AI 领域时的见解，让我们一窥她在导航 AI 领域的信仰。

在7月与微软首席技术官 Kevin Scott 的互动中，Murati 对于围绕 LLMs 的普遍不确定性和该领域需要明确的指导和决策过程的必要性直言不讳，提出了我们应该如何确定 AI 的哪些方面应优先考虑、投入工作、发布或有效定位。

“五年多前我们开始构建 GPT 时，我们的主要重点是 AI 系统的安全性。” Murati 说。她强调了允许人类直接为 AI 系统定义目标或目的所带来的风险，因为这种方法可以涉及到用于关键职能的复杂、不透明的过程，可能导致严重错误或意外后果，Murati 和团队将重点转移到使用 RLHF 来确保 AI 的安全有效开发。

在开发了 GPT-3并通过 API 发布它之后，OpenAI 首次能够将 AI 安全整合到现实世界系统中。他们使用指令遵循模型来获取客户的提示并为模型生成反馈学习。通过对这些数据进行微调，他们能够构建更有可能遵循用户意图并做实际想做的事情的指令遵循模型。

对 Murati 来说，这是向前迈出的重要一步，因为 AI 安全不再只是一个理论概念，而是在现实世界中变得实用。

因果报应

在 Altman 的免职之后，OpenAI 的联合创始人和首席科学家 Ilya Sutskever，被认为是 Altman 突然被免职的幕后黑手，他向员工发表了演讲。据《信息》报道，他甚至否认 Altman 被免职是一次“政变”或“敌意接管”，尽管人们这样说，他承认组织内部存在真正的担忧，这些担忧与商品化 AI 技术的优先级有关，可能忽视了安全预防措施。

在 OpenAI 内部，正在进行的辩论围绕平衡追求 AGI 与安全担忧，并避免仅专注于商业利益，在一端是 Altman 和 Brockman，另一端是 Sutskever。

对于 Sutskever 来说，AGI 的重要性在于作为 AI 能力的实际基准。两者都对 AGI 对社会的潜在影响持谨慎和考虑周到的态度，但不妥协于安全。

与此观点相呼应，Murati 强烈支持以确保 AGI 惠及人类为重点的发展。Murati 和 Sutskever 两人都相信 AGI 发展的重要性，同时确保其惠及人类。

Murati 早些时候提到，即使在构建 GPT-4时，也做出了重新关注提高 ChatGPT 的对齐和安全性的战略决策。目标是积极地涉及研究人员并收集他们的反馈，以提高 ChatGPT 的可靠性、鲁棒性和对齐性。

Altman 在 DevDay 的公告，特别是涉及微软的那些，导致了 ChatGPT 的中断，可能是由于 DDoS 攻击。由于 DevDay 后使用激增，OpenAI 还暂时停止了新的 ChatGPT Plus 注册。

归根结底，Sutskever 承认，一些 OpenAI 员工担心，在 Altman 的领导下，可能过于强调将 AI 发展迅速转化为有利可图的事业。这种强烈的商业化焦点可能会搁置或妥协那些在开发 AI 系统中至关重要的严格安全措施和预防措施。

Altman 最初将 OpenAI 创立为一个非营利组织，但稍后引入了一个营利实体，以保证 AI 研究资金，这一举措被视为与公司对安全的承诺冲突。除此之外，他从开源转向闭源的做法违背了公司的初衷，他与 Brockman 在这个立场上似乎与 Sutskever 有所分歧。

Elon Musk，曾协助创立 OpenAI 的人，当 Altman 更加关注商业化而不是开放源代码 AI 时，很快就离开了，抛弃了其最初的开放性的原始理念。坚信开源 AI 的 Musk，计划开源 xAI 的聊天机器人 Grok，此前他曾说，正是因为闭源政策将带来“坏因果”。另一方面，Musk 称赞 Sutskever 是一个“聪明、善良的人类，是 OpenAI 的支点”。

在 Jakub Pachocki、Aleksander Madry 和 Szymon Sidor 等三位 OpenAI 高级研究人员回应 Altman 被解雇和 Brockman 辞职的同时辞职时，Mira Murati 塑造 OpenAI 作为临时首席执行官的未来轨迹变得越发重要，她将利用她在 AI 方面的广泛经验，提倡负责任的 AI，并强调 AGI 的发展是为了人类的利益。

除了内部备忘录之外，Murati 尚未就她的新角色发表任何公开声明。