人工智能公司Aleph Alpha发布符合欧盟标准的AI

2024年08月27日 由 samoyed 发表 238 0

德国人工智能初创公司Aleph Alpha于周一发布了两个新的大型语言模型,并采用了开源许可,这一举措可能会重塑AI开发的格局。此举允许研究人员和开发人员自由检查并基于该公司的工作进行构建,从而挑战了许多科技巨头的闭源方法。


nuneybits_Abstract_impressionism_of_the_European_Union_and_data_7e8f6420-7f75-44a1-ad62-b7a7dd54bcf0


我们很高兴地推出我们的两个模型:Pharia-1-LLM-7B-control和Pharia-1-LLM-7B-control-aligned。这两个模型以及用于训练它们的代码现已公开,并作为非商业研究和教育用途的开源资源。
——Aleph Alpha(@Aleph__Alpha)2024年8月26日


这两个模型,Pharia-1-LLM-7B-control和Pharia-1-LLM-7B-control-aligned,每个都拥有70亿个参数。Aleph Alpha设计它们以在多种欧洲语言中提供简洁、长度可控的响应。该公司声称,其性能与70-80亿参数范围内的领先开源模型相媲美。


此次发布标志着AI开发领域的一个重大转变,其中透明度和法规遵从性变得与原始性能同样重要。通过开源这些模型,Aleph Alpha不仅邀请外界进行审查和协作,还将自己定位为欧盟合规AI开发的先驱。随着行业面临日益增加的监管压力和公众对道德AI实践的需求,这一方法可能会证明具有战略优势。


特别值得注意的是,该公司决定同时发布模型的标准版和“对齐”版。经过额外训练以减少有害输出和偏见风险的对齐模型,体现了Aleph Alpha对负责任AI开发的承诺。这种双重发布策略允许研究人员研究对齐技术对模型行为的影响,从而可能推动AI安全领域的发展。


非常高兴地欢迎Aleph Alpha加入开源/开放AI社区!这种开放知识的方法令人印象深刻。
——Thomas Wolf(@Thom_Wolf)2024年8月26日


欧盟合规AI:驾驭监管环境


此次发布正值AI开发面临日益增长的监管审查之际,特别是在欧洲联盟。欧盟即将于2026年生效的《人工智能法案》将对AI系统施加严格的要求,包括透明度和问责制措施。Aleph Alpha的策略似乎与这一监管方向紧密契合。


Aleph Alpha通过其独特的训练方法来区分其Pharia模型。该公司声称已仔细筛选其训练数据以遵守版权和数据隐私法律,这与许多严重依赖网页抓取数据的LLM不同。这种方法可能为高度监管环境下的未来AI开发提供蓝图。


该公司还在同一许可下开源了其名为“Scaling”的训练代码库。这一决定不仅允许研究人员使用这些模型,还让他们能够理解和可能改进训练过程本身。


开源AI:民主化开发还是大卫对战歌利亚?


将模型和训练代码都开源,是朝着AI开发民主化迈出的重要一步。这一举措可能通过允许独立验证和协作改进,加速道德AI训练方法的创新。同时,它也解决了许多AI系统“黑箱”性质日益增长的担忧,提供了建立对AI技术信任至关重要的透明度。


然而,这种开源方法长期内能否与科技巨头竞争,仍然是不确定的。虽然开放性可以促进创新并吸引开发者社区,但它也需要大量资源来维持势头并围绕这些模型创建一个繁荣的生态系统。Aleph Alpha将需要在社区参与和战略发展之间取得平衡,以保持在这个快速演变的AI领域中的竞争力。


Aleph Alpha的发布还引入了技术创新。这些模型使用了一种名为“分组查询注意力”的技术,据公司称,这种技术提高了推理速度而没有显著牺牲质量。它们还采用了“旋转位置嵌入”方法,这种方法使模型能够更好地理解句子中单词的相对位置。


此次发布凸显了AI开发理念中的日益增长的分裂。一些公司追求更大、更强大的模型,而这些模型往往笼罩在秘密之中。而其他公司,如Aleph Alpha,则倡导开放、透明和符合监管要求的方法。


企业AI:受监管行业中可审计模型的吸引力


对于企业客户,特别是那些处于金融和医疗等受严格监管行业的客户而言,Aleph Alpha的方法可能具有吸引力。能够审核并可能定制这些模型以确保符合特定监管要求,可能是其重要的卖点。


对于可以在特定监管环境中进行审查和定制的AI解决方案的需求正在上升。Aleph Alpha的开放方法可能使他们在这些市场中获得竞争优势,特别是在监管合规性日益重要的欧洲。这一战略与“可解释AI”的日益增长的趋势相一致,并可能为企业AI解决方案的透明度设定新标准。


Aleph Alpha发布Pharia模型,是在不断演变的AI开发领域中的一次大胆尝试。通过拥抱开放性、合规性和技术创新,该公司正挑战由科技巨头主导的封闭式、黑箱系统的现状。这种方法不仅符合即将出台的欧盟监管规定,还满足了日益增长的透明度和道德AI实践的需求。


随着业界关注这一实验的发展,Aleph Alpha战略的成功或失败将对AI开发的未来产生深远的影响。这引发了一个关键问题:在AI霸主地位的竞争中,开放、合规的创新之龟,最终是否会超越迅速、闭门造车的开发之兔?答案可能不仅会重塑AI领域,还将决定AI是成为服务社会最佳利益的工具,还是继续作为少数精选人群控制的强大但不透明的力量。

文章来源:https://venturebeat.com/ai/aleph-alpha-unveils-eu-compliant-ai-a-new-era-for-transparent-machine-learning/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消