您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI研发新算法提升大型语言模型自我解释能力
2024年07月18日 由 daydream 发表
172
0
OpenAI的研究团队近期公布了一项技术创新，旨在增强大型语言模型（LLMs），如GPT-4的自我解释能力。该技术创新借鉴了“证明者-验证者游戏”的概念，通过两个AI模型间的互动竞争机制，来提升模型答案的可验证性和透明度。
在这一游戏中，一个扮演“证明者”的模型负责提供答案，并试图说服一个作为“验证者”的较弱模型接受其答案的正确性。验证者模型则专注于检验答案的准确性，以此推动证明者模型在提供解释时更加清晰和准确。经过多轮游戏与迭代训练，证明者模型在生成易于人类理解的答案方面展现出显著提升，同时验证者模型也增强了识别错误答案的能力。
据OpenAI的研究报告指出，采用这种游戏式训练方法，模型在提供既正确又易于理解的答案方面表现更佳。该研究强调了提高AI系统输出透明度和可验证性的重要性，特别是在医疗、法律、能源等关键领域的应用中，这一特性尤为关键。
此外，该技术还展示了其潜力，即可能在未来用于调整智能水平超越人类的AI模型，从而增强其在实际应用中的信任度和安全性。这一发现为AI技术的进一步发展提供了新的视角和可能性。
文章来源：https://venturebeat.com/ai/openai-used-a-game-to-help-ai-models-explain-themselves-better/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消