Salesforce推出AI代理信任与治理计划

一家以人工智能（AI）代理为未来的公司（参阅https://martech.org/salesforce-agentforce-what-you-need-to-know/），知道企业必须能够信任其与客户和员工互动的AI代理行为。

因此，毫不令人意外的是， Salesforce今日宣布了一系列治理、安全和合规能力，以帮助企业部署受信赖的AI代理。

Salesforce的《IT行业状况调查》（State of IT survey）是一项针对全球2000多家企业IT安全负责人进行的调查显示，近半数（48%）的企业担心其数据基础无法充分发挥智能型AI的最大潜力，55%的企业则对部署代理缺乏充分的信心，认为没有适当的边界来确保代理的安全性。

这些新能力旨在解决上述担忧。它们允许客户在 Salesforce 平台内部或外部的应用程序中，从任何位置治理数据。

Salesforce利用多个产品来构建信任和数据治理，包括 Agentforce、Salesforce 数据云（Data Cloud）、MuleSoft 和可信服务（包括从最近收购的Shield和 Trust Layer 等公司收购来的功能）。

该公司表示，这些能力提供了一个集成的、企业级的基础，以实现可信赖、受控和安全的AI，这与其他地方分散的点解决方案形成对比。Agentforce 作为 Salesforce 平台内置的功能，为代理部署提供了控制、可见性和保障，在每个阶段都确保了代理的可靠性和透明度。

这些能力包括从零拷贝数据访问到基于人工智能的行为透明度等多重功能。具体来说：

• Salesforce 备份与恢复：原名为 Own Recover，此功能提供 Salesforce 数据和元数据的100%保护，包括自动备份和按最低操作单元（MLOU）进行恢复。
• Salesforce 存储库：此功能用于合规要求和内部数据保留政策，还可以通过仅处理相关数据来优化性能。
• 数据掩码与种子：此功能允许在沙盒中对大数据量的安全性进行保护和初始化，从而更安全、高效地部署AI代理。
• Shield 2.0：此功能提供更深入的用户活动和行为监控，包括主动威胁检测和更容易的合规报告生成。
• 安全中心 2.0：此功能简化了安全策略管理，包括更快的数据分类和对风险的更全面可见性，还包括来自 Own Secure 的自动风险评估。

“企业AI的潜力是巨大的，但要实现这一潜力，需要建立可靠的数据基础和安全开发。” Salesforce 数据云高级副总裁兼总经理 Rahul Auradkar 在一份声明中表示，“通过将数据与 Data Cloud 平台无缝集成、提供直观的低代码工具来构建更智能的代理，并从底层嵌入治理和安全，我们现在正赋予每个客户部署先进且负责任的人工智能的能力。”

此外， Salesforce 还提供了一些功能，帮助开发者在投入生产前构建和测试 Agentforce 代理。通过其沙盒环境和 Agentforce 测试中心， Salesforce 提供了工具，使团队能够在隔离环境中使用现实测试数据安全地构建代理，并验证其行为，从而确保在生产中部署时的可靠性和责任性。

测试中心的改进包括合成数据生成和状态注入功能，这些将允许客户更快地通过批量创建现实测试案例来测试他们的 Agentforce 代理。通过将上下文变量和对话历史作为输入添加到测试案例中，客户还可以测试代理在不同情景中的推理能力。

用户还可以通过使用自定义或对话变量来控制 Agentforce 如何处理请求，并存储额外的关键信息（例如，客户是否经过验证或搜索查询的结果），然后应用过滤器以限制某些主题和行动的可用性。

内置的边界功能将引导 Agentforce 按照文本指令、变量和过滤器的顺序执行操作。通过其行为校验功能，Agentforce 将让构建者知道代理可能偏离轨道，并提供故障排除建议，以推荐更精确的指令。