Smaug-72B:开源人工智能新突破

2024年02月08日 由 daydream 发表 724 0

根据自然语言处理(NLP)研究和应用领先平台之一Hugging Face的最新排名,一个新的开源语言模型登上了世界最佳语言模型的宝座。


微信截图_20240208102142


该模型名为 "Smaug-72B",由初创公司 Abacus AI 公开发布,该公司致力于帮助企业解决人工智能和机器学习领域的难题。从技术上讲,"Smaug-72B "是 "Qwen-72B "的微调版。"Qwen-72B "是另一个强大的语言模型,几个月前由阿里巴巴集团的研究团队Qwen发布。


这款发布的版本中最值得关注的是,Smaug-72B 在几个最流行的基准测试中的表现超过了 GPT-3.5 和 Mistral Medium,这两个模型分别是由 OpenAI 和 Mistral 开发的最先进的专有大型语言模型。Smaug-72B 还在许多评估中大幅超越了其衍生模型 Qwen-72B。


微信截图_20240208102206


根据衡量开源语言模型在各种自然语言理解和生成任务中表现的 Hugging Face Open LLM排行榜,Smaug-72B 是目前第一个也是唯一一个在所有主要 LLM 评估中平均得分超过 80 分的开源模型。


虽然该模型的平均得分仍未达到90-100分的人类水平,但它的诞生预示着开源人工智能可能很快就能与大科技公司的能力相媲美,而后者的能力长期以来一直被蒙在鼓里。简而言之,Smaug-72B 的发布可能会从根本上重塑人工智能的发展方式,发掘那些富裕公司以外的人的聪明才智。


开源优势


"来自 Abacus AI 的 Smaug-72B 现在可以在 Hugging Face 上使用,它在 LLM 排行榜上名列前茅,是第一个平均得分达到 80 分的模型!换句话说,它是世界上最好的开源基础模型。"Abacus AI 首席执行官 Bindu Reddy 在 X 上发表文章说。


她补充说:"我们的下一个目标是将这些技术作为研究论文发表,并将其应用于一些最好的 Mistral 模型,包括 miqu(LLama-2 的 70B 细齿)。我们使用的技术专门针对推理和数学技能,这也是 GSM8K 高分的原因!我们即将发表的论文将对此做出更多解释。"


微信截图_20240208102229


随着模型的发布,Smaug-72B成为首个在Hugging Face开源LLM排行榜上平均得分为80的开源模型,这在自然语言处理和开源人工智能领域被认为是一项非凡的成就。


Smaug-72B 尤其擅长推理和数学任务,这要归功于 Abacus AI 在微调过程中采用的技术。这些技术将在即将发表的研究论文中详细介绍,它们针对大型语言模型的弱点,增强了它们的能力。


Smaug-72B 并不是最近唯一成为头条新闻的开源语言模型。Qwen-72B 背后的团队 Qwen 也发布了 Qwen 1.5,这是一套参数从 0.5B 到 72B 不等的小型强大语言模型。


Qwen 1.5 的性能优于 Mistral-Medium 和 GPT-3.5 等流行的专有模型,上下文长度为 32k,可与各种工具和平台配合使用,实现快速和本地推理。Qwen 还开源了 Qwen-VL-Max,这是一种新的大型视觉语言模型,可与 Gemini Ultra 和 GPT-4V 相媲美,Gemini Ultra 和 GPT-4V 分别是谷歌和 OpenAI 开发的两种最先进的专有视觉语言模型。


对未来人工智能的影响


Smaug-72B和Qwen 1.5的出现引发了人工智能界及以外人士的极大兴奋和讨论。许多专家和有影响力的人士赞扬了Abacus AI和Qwen的成就,并对他们为开源人工智能做出的贡献表示赞赏。


微信截图_20240208102259

微信截图_20240208102308


人工智能影响者和分析师Sahar Mor在LinkedIn的一篇帖子中表示:“很难相信,就在不到一年前,我们还对像Dolly这样的模型感到兴奋。”她惊叹于开源模型在过去一年取得的进步。


Smaug-72B 和 Qwen 1.5 目前已在 Hugging Face 上发布,任何人都可以下载、使用和修改它们。Abacus AI 和 Qwen 还宣布了向 llmsys 人类评估排行榜提交模型的计划。Abacus AI 和 Qwen 还暗示了他们未来的项目和目标,其中包括创建更多开源模型,并将它们应用到各种领域和应用中。


Smaug-72B 和 Qwen 1.5 只是今年开源人工智能迅猛发展的最新例证。它们代表了人工智能创新和民主化的新浪潮,正在挑战大型科技公司的主导和垄断地位,为每个人带来新的可能和机遇。只有时间会告诉我们,Smaug-72B在Hugging Face排行榜上能保持多久的领先地位,但目前可以肯定的是,开源人工智能正在迎来一个重大的时刻,以开启新的一年。


文章来源:https://venturebeat.com/ai/meet-smaug-72b-the-new-king-of-open-source-ai/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消