哈佛商业评论最近发表了一篇题为《为何采用生成式人工智能如此困难》的文章，指出从大型企业到小型企业，各类企业在将人工智能（包括生成式人工智能以及基于规则的传统算法和机器学习）融入其运营的过程中都面临着挑战。

其中一个主要原因是，他们担心自己使用了一种不完全了解的技术。因此，企业在消费者中建立对人工智能的信任变得至关重要。

在Salesforce开发者大会TrailblazerDX上，最大的公告之一是关于 Einstein 1 Studio 的发布，但此次大会的另一个主要议题是，对于企业而言，建立对人工智能的信任至关重要。

Salesforce的多位发言人强调了在消费者中培养对人工智能信任的重要性，特别是在Salesforce向平台引入新的AI功能时。

事实上，尽管大型语言模型带来了诸多优势，但企业仍然持谨慎态度。这种犹豫源于对模型可能产生幻觉、偶尔给出不准确回答以及泄露敏感客户或企业数据的潜在风险的担忧。

Salesforce首席科学家Silvio Savarese甚至表示，无法在消费者中建立信任“可能导致下一个AI寒冬”。

在人工智能中建立信任

因此，为了增强大型语言模型的可靠性，Salesforce去年推出了信任层。

这个安全中介通过屏蔽个人可识别信息（PII）、监控输出毒性、确保数据隐私、防止用户数据持久化以及禁止将其用于额外训练，来保障用户与大型语言模型的交互安全。

随着时间的推移，这家客户关系管理公司不断添加不同的组件来改进信任层。例如，它正在使用另一个大型语言模型来检测任何毒性行为、偏见或潜在冒犯性或有害内容的迹象。

Savarese表示，他们目前正在开发一个专注于生成信心的组件。这个组件评估人工智能在产生特定输出时的确定性。

“信心指标可以用于考虑是否涉及人类进行进一步的验证或评估，可能需要三到四轮审查，”Savarese表示。

他还提到，另一个正在开发并准备纳入信任层的关键组件是可解释性。在大型语言模型生成输出后，目标是阐明特定输出是如何产生的，解释决策过程以及创建每个特定输出所涉及的步骤。

这有效吗？

尽管在消除大型语言模型中的幻觉方面付出了巨大努力，但取得完全成功仍然具有挑战性。然而，像Salesforce这样的企业已经采用了多种方法来减轻或控制幻觉的程度。

尽管在消费者中建立对人工智能的信任至关重要，但人们仍然对这些努力的有效性心存疑虑。Salesforce软件工程执行副总裁Muralidhar Krishnaprasad表示，去年初，由于人们对大型语言模型不熟悉，存在相当大的恐惧和不确定性。

“然而，这种担忧已经有所减轻，尤其是因为利益相关者认为我们的信任层提供了保障，将技术与用户数据相结合，”Krishnaprasad表示。

“过去一年，信任层的有效性得到了认可，人们对其信心有所增强，确保了在技术基础上进一步创新的安全感，”他补充道。

尽管如此，某些受监管的行业可能仍然存在担忧，特别是在这些特定领域受到政府谨慎监管的情况下。但据Krishnaprasad表示，即使是Salesforce的公共部门客户也对人工智能表现出极大的兴趣。

保护数据安全

去年，这家总部位于旧金山的公司在前一年的Dreamforce活动上宣布后，正式推出了Data Cloud。

Data Cloud允许Salesforce客户将所有数据集中到一个地方，并利用统一数据的力量来增强客户洞察力、个性化互动，以及在整个Salesforce平台上实现无缝集成——所有这些都得到了人工智能的帮助。

随着客户将数据迁移到云端，Salesforce必须确保大型语言模型的基础稳固，防止潜在的数据泄露，并降低大型语言模型生成高度偏见输出的风险。

Savarese确实确保了将客户数据带到Salesforce云端的绝对安全性。然而，与大型语言模型中的幻觉挑战类似，人们不能完全排除人工智能在某些情况下遇到问题的可能性。

“Salesforce的业务基于我们妥善保管客户数据这一事实，”他表示。

Salesforce还允许客户使用自己的数据湖。“在这种情况下，我们引入了一个元数据层。我们不托管客户的数据，而是建立了一个对人工智能操作至关重要的关键层。因此，云位于客户数据湖的上方。”

此外，Savarese强调，客户数据被严格排除在模型训练过程之外。输入到模型中的数据既不会被保留，也不会被模型用于自我训练目的。

“这一框架不仅对我们专有模型至关重要，而且对第三方供应商模型也至关重要，如OpenAI的GPT模型或Anthropic的Claude系列。”

Einstein 1 Studio

随着Salesforce新的人工智能产品——Einstein 1 Studio的推出，建立对人工智能的信任也变得至关重要。Einstein 1 Studio包含三个组件。首先是副驾驶构建器，它允许开发人员创建自定义人工智能操作来完成特定的业务任务。

“它使开发人员能够创建操作或对现有操作进行引用，这些操作可能存在于流程、APEX等中，然后将它们注册到副驾驶中，以便副驾驶知道开发人员可以执行哪些任务。此外，副驾驶构建器还包括调试工具，这些工具可以洞察计划的正确性，”Krishnaprasad说。

第二个组件是提示构建器，它允许用户在工作流程中构建和激活自定义提示。

“提示构建器允许您创建提示，并将其与来自CRM或数据云的数据集成。它会自动触发大型语言模型，检索结果，并启用在整个平台上使用提示，”Krishnaprasad解释说。

最后，Einstein 1 Studio的第三个组件是模型构建器，开发人员可以在其中构建或导入各种人工智能模型。Krishnaprasad解释说，模型构建器也有三个组件——一个是预测建模，用户可以在其中创建自己的预测模型或从AWS SageMaker等平台导入现有模型。

“此外，用户还可以利用预先构建的模型或引入自己的大型语言模型，对其进行微调和定制，以便在整个堆栈中更广泛地使用。这与副驾驶和提示构建器的功能无缝集成，提供了一个用于优化预测渠道的综合工具集，”Krishnaprasad补充道。

这些功能令人印象深刻，使Salesforce在客户关系管理市场中占据优势。MTX集团的首席技术官Gaurav Kheterpal也是Salesforce的开拓者，他对此表示赞同。