您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI预计十年内出现超人工智能，投入1000万美金解决AI对齐问题
2023年12月15日 由 daydream 发表
341
0
OpenAI认为，在未来10年内，可能会出现具有超越人类能力的人工智能系统，被称为超级智能。这种能力极其广泛的系统会带来惊人的好处，但如果开发不谨慎，也可能带来潜在的风险。
正是在这样的背景下，OpenAI与Eric Schmidt合作，推出了“超级对齐快速资助”（Superalignment Fast Grants），承诺投入1000万美元用于研究未来具有超人类能力的AI系统的对齐和安全性。这些资助从10万美元到200万美元不等，面向学术研究人员、非营利组织甚至个别工程师和科学家。还有一个专门支持研究生的15万美元的奖学金。
OpenAI的研究人员认为，新技术将是必不可少的，因为人类将无法完全理解或监管超人类AI的复杂行为。例如，一个高级AI系统可能会生成数百万行人类难以评估为安全或危险的新编程语言的代码。根本的研究挑战是确保比人类聪明得多的模型可靠地遵循操作者的意图，并避免意外的有害行为。
这些资金将支持诸如弱到强的概括性、模型内部的可解释性、AI辅助的人类对AI系统的监督、模型推理链的诚实性和忠实性等研究方向。总体目标是实现突破性进展，使得尽管人类对它们复杂运作的理解有限，也能控制超人类系统。
OpenAI希望通过这些慷慨的新赠款和召集顶尖人才共同致力于技术领域中最重要问题的愿景，加速在确保高级机器继续造福人类方面的进展。组织表示乐观地认为，不同领域的研究人员的奉献精神可以在高级AI自身改变社会之前解锁具有变革性的解决方案。
文章来源：https://www.maginative.com/article/openai-launches-10-million-in-research-grants-for-aligning-superintelligent-ai/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消