您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI正在成立一个“独立”的安全委员会
2024年09月18日 由 samoyed 发表
96
0
根据OpenAI的博客文章，该公司正将其安全委员会转变为一个独立的“董事会监督委员会”，该委员会有权因安全问题而推迟模型发布。该委员会在最近对OpenAI的“安全和安全相关流程及保障措施”进行为期90天的审查后，提出了成立独立董事会的建议。
该委员会由Zico Kolter担任主席，成员包括Adam D'Angelo、Paul Nakasone和Nicole Seligman。OpenAI表示，该委员会将“由公司领导层就主要模型发布的安全评估进行简报，并将与整个董事会一起对模型发布进行监督，包括在安全问题得到解决之前推迟发布的权力”。OpenAI的全体董事会也将就“安全和安全问题”进行“定期简报”。
值得注意的是，OpenAI安全委员会的成员也是公司更广泛的董事会成员，因此该委员会的实际独立程度及其独立性的结构尚不清楚。（CEO Sam Altman之前是该委员会的成员，但现已不再是。）
通过设立独立的安全委员会，OpenAI似乎采取了与Meta的监督委员会类似的做法，后者审查Meta的一些内容政策决策，并可以做出Meta必须遵守的裁决。监督委员会的成员均非Meta的董事会成员。
OpenAI的安全和安全委员会进行的审查还帮助“发现了推进AI行业安全的行业合作和信息共享的更多机会”。该公司还表示，将寻求“更多方式来分享和解释我们的安全工作”，并寻找“对我们系统进行更多独立测试的机会”。
文章来源：https://www.theverge.com/2024/9/16/24246617/openai-independent-safety-board-stop-model-releases
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消