对于Hugging Face的气候领导者来说，“负责任的AI”与普通AI之间的区别让人烦恼。

今天开发AI模型的公司正处于市场份额和利润的剧烈竞争中。不管是谷歌还是微软，口号似乎都是：道德规范去死吧。在2023年这两个在行业中有数十亿美元投资的大型科技公司都缩减了他们的负责任和道德AI团队，并且在其他AI团队中，我们看不到任何暂停或重新整顿的迹象。

对于在Hugging Face担任AI研究员和气候领导的Sasha Luccioni来说，“负责任的AI”与普通的AI之间的区别令人苦恼。“这当然是没有意义的。就像是有安全措施的汽车和没有安全措施的汽车完全没有区别一样。”她嘲讽说。回想起裁员事件，她推测有预算削减和经济衰退的原因，但团队之间缺乏一致可能是他们被解雇的最大原因。

“当你有这样的区分，就会有太多的摩擦，因为负责任的AI团队的工作实质上就是要阻碍发展，”Luccioni沉思道。回忆起两年前谷歌的困境，当时公司的著名AI伦理学家Timnit Gebru及其团队因对大型语言模型的风险发出警告而被解雇，Luccioni表示，“他们做了他们应该做的事，但当冲突发生时，负责任的AI研究人员却是第一批被挤出来的，因为他们与公司更广泛的盈利模式存在冲突。”

在试图为AI伦理学者找到位置的公司名单中，有Meta，即由马克·扎克伯格经营的跨国企业集团。该公司解散了其负责任的AI部门，并将其（人力）资源转移到不同的生成式AI团队中。Luccioni认为这个策略是合理的，并称之为合理之举。“你不应该有一个孤立的负责任的AI团队；你应该有一个一体化的负责任的AI网络，”她坚称。

同样，Hugging Face的责任专家定期与公司内从事不同项目工作的人见面，所以负责任的团队与公司其他部分之间没有紧张关系。“这意味着从项目开始，我们就在思考责任，而不是仅仅作为附录在最后加上，”Luccioni自豪地指出。

生成式AI：有趣但不是革命性

Luccioni表示，她感到沮丧的是，人工智能已经变得如此注重营销，以及谁在发布时引起的讨论最多。她指出，“关注点很少在稳健性、透明度或负责任上。即使有模型推出，总会有一些细节上的问题，”并引用了最近谷歌发布的Gemini模型作为示范的例子。

这是该公司在生成人工智能领域取得优势的策略之一。去年，在ChatGPT成为行业内最受瞩目的热点后，谷歌进入了恐慌模式，并在Bard的现场演示中出现了事实上不准确的答案后，谷歌最终失去了1000亿美元的估值。

一提到这项技术，Luccioni的怀疑态度就显而易见。“生成式AI是有趣的，”她承认，“我只是还没有看到商业优势。生成一个图像很棒，可能有用，但它不会改变世界。对于ChatGPT或大型语言模型来说也是如此，它们对不同的案例有用，但这不像人们所说的那样，是颠覆性的、革命性的技术，”她补充说。

在技术上，Luccioni非常喜欢老派的方法。“我花了一段时间与联合国合作，意识到我们在实验室开发的所有大型模型在现实世界中并不那么有用，”她说。

打破二元论

除了在Hugging Face进行研究外，这位33岁的创始成员还是气候变化AI的创始成员。她有充分的理由不被这种已经成为硅谷的宠儿的模仿人类的技术所打动。

Luccioni对气候变化应用方面的技术并不太感兴趣。一些研究人员训练了一个模型，该模型可以回答有关全球变暖和温室效应的问题，是基于IPCC报告。“但说实话，你可以用简单的信息检索做同样的事情；你不需要生成式AI。”Luccioni断言。虽然承认潜在的用例，她却对它是否可以改变游戏规则表示怀疑。“尤其是考虑到这些模型的所需的资源量和对地球的影响，我不认为考虑到它们所需的成本，使用它们是值得的，”她坚定地补充道。

Luccioni建议可以采取有影响力的行动，如利用AI专业知识支持现有的气候变化研究社区。“但这并不是真的从零开始。他们在AI出现之前就在做这项工作，”她说。“这种工作很难在会议上发表，因为它通常不是新颖的或最先进的。但它确实可以帮助科学家社区更有效地做他们的工作。”

Luccioni回忆道：“当我开始从事人工智能时，我觉得我们所做的工作实际上是为了制造更好、有用的技术，帮助人们。”。“我刚刚读到关于Imagen 2的文章，这是一项伟大的研究工作，但我们为什么要这样做？它解决了什么问题？”她沉思道。“我觉得这个领域的价值观发生了变化，我发现很难再对这些东西感到兴奋了。”

七年前，Luccioni是一位在金融领域从事应用AI研究的研究员，她改变了自己真正的热情——气候和自然。她辞去了工作，接受了大幅减薪，并决定利用她的AI背景帮助对抗气候变化。经过一段时间与计算机科学家Yoshua Bengio的合作，她寻求了一个位于学术界与工业界之间的空间。

“我得到了来自大型科技公司的几份工作邀请，然后我选择了Hugging Face，因为我相信使AI尽可能可及的任务和重要性，”她说。

“这就是为什么我继续做我所做的工作，因为我想要更好地理解它，它不是一个二元的事情。对地球来说，AI不是好是坏的问题。而是可以对什么领域有益的问题。但要弄清它究竟是好是坏，你需要了解它的影响，”Luccioni最后说道。