语言模型发展遇瓶颈,OpenAI的新Orion性能提升有限

2024年11月11日 由 neo 发表 43 0

近日,一份新报告揭示了OpenAI即将推出的Orion语言模型在性能提升上的有限进步,这一消息引发了AI行业的广泛关注。据《The Information》报道,Orion的性能提升远低于业界预期,与GPT-3到GPT-4之间的显著质量飞跃相比,GPT-4到Orion的改进显得较为微弱。

openai_logo_star_sky-1200x673

OpenAI的下一代主要语言模型Orion,在编程等关键领域并未能持续超越其前身GPT-4,仅在语言能力上有所改进。此外,据消息源透露,与早期版本相比,Orion模型的运行成本也可能更高。这一进展放缓的趋势,不仅影响了OpenAI自身的发展,也给整个AI产业带来了挑战。

面对高质量训练数据匮乏的问题,OpenAI已成立了一个由Nick Ryder领导的“基础团队”,致力于解决这一难题。OpenAI首席执行官Sam Altman在之前的声明中也提到,尽管数据量看似充足,但未来的重点将转向从更少的数据中学习更多知识。为此,公司计划使用由AI模型生成的合成数据作为训练材料,以弥补高质量数据的不足。然而,据OpenAI的一名员工透露,这种方法存在潜在风险,即新模型可能在某些方面与旧模型相似。

大型语言模型(LLM)的停滞不前,不仅影响了OpenAI,还波及了整个行业。据《The Verge》报道,谷歌即将推出的Gemini 2.0也未能达到内部设定的目标。同时,Anthropic已停止其旗舰产品Opus 3.5版本的开发,转而推出了改进后的Sonnet,以避免让用户和投资者失望。这一连串的消息,进一步凸显了整个AI行业的停滞状态。

llm_stagnation_graphic-scaled-1

在过去18个月里,开源模型已迅速赶上价值数十亿美元的专有模型,这一趋势加剧了行业的竞争和焦虑。如果主要科技公司无法将其巨额投资有效转化为更好的AI性能,那么这种停滞状态可能会持续下去。

然而,在面对行业挑战的同时,OpenAI首席执行官Sam Altman仍保持乐观态度。他表示,通用人工智能(AGI)的实现路径是清晰的,关键在于对现有模型的创造性使用。Altman可能指的是将LLMs与先进的推理方法以及具有主动性的AI技术相结合,以推动AI技术的进一步发展。

文章来源:https://the-decoder.com/openais-new-orion-model-reportedly-shows-small-gains-over-gpt-4/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消