您尚未登录账户
您的企业账号申请正在审核中
Anthropic用人类学研究揭示了AI的未知领域
尽管大型语言模型是由人类创建的，但它们仍然相当神秘。推动当前人工智能热潮的高能算法具有一种做事方式，这种方式对于观察它们的人来说并不是显而易见的。这就是为什么人工智能在很大程度上被称为“黑箱”，这是一种从外部不容易理解的现象。
人工智能行业顶级公司Anthropic新发表的研究试图阐明人工智能算法行为中更令人困惑的方面。周二，Anthropic发表了一篇研究论文，旨在解释其AI聊天机器人Claude为何选择生成关于某些主题的内容而非其他主题。
AI系统是根据人类大脑的大致模拟来设置的——这是一种分层神经网络，可以接收和处理信息，然后基于这些信息做出“决策”或预测。这样的系统是通过大数据子集进行“训练”的，这使得它们能够进行算法连接。然而，当AI系统基于其训练输出数据时，人类观察者并不总是知道算法是如何得出这个输出的。
这种神秘性催生了AI“解释”领域，研究人员试图追踪机器的决策路径，以便他们能够理解其输出。在AI解释领域，“特征”是指在神经网络中激活的“神经元”的模式，实际上是指算法可能会引用的一个概念。研究人员能够理解神经网络中的“特征”越多，他们就越能理解某些输入是如何触发网络来影响某些输出的。
在关于其发现的一份备忘录中，Anthropic的研究人员解释了他们是如何使用“字典学习”的过程来解读Claude神经网络的哪些部分映射到特定概念的。研究人员表示，使用这种方法，他们得以“通过观察哪些特征会对特定输入做出反应，从而开始理解模型的行为，这让我们能够洞察模型是如何‘推理’出给定响应的。”
值得注意的是，Anthropic公司和其他盈利公司一样，可能出于某些与业务相关的动机，以某种方式撰写和发布其研究。但话说回来，该团队的论文是公开的，这意味着你可以自己去阅读，并对他们的发现和方法论做出自己的结论。
