集成如何赋能人工智能？您需要了解的 3 件事

2018 年，MuleSoft 创始人 Ross Mason 鼓励公司将人工智能大脑“从罐子里拿出来”。Ross解释说，孤立的数据存储和企业应用程序之间缺乏连接，严重限制了人工智能影响其周围数字生态系统的能力，使其只不过是一个相当昂贵的罐子里的大脑。 

时光飞转到 2024 年，人工智能的快速发展现已将其推向主流。凭借突破性的大语言模型（LLM），人工智能行业在大脑智能化方面取得了长足进步。但没有改变的是让人工智能与周围世界互动的挑战。现在就好像我们只是拥有更昂贵的“罐子里的大脑”。 

企业要想释放生成式人工智能的威力，就必须在整合和保护人工智能大脑周围的数据资产方面进行投资。然而，采用人工智能的最大障碍之一是将现有系统整合在一起，更不用说额外的安全和隐私问题了。

集成实现人工智能计划的 3 种方式

在人工智能计划中，集成将在三个关键领域发挥重要作用：

1. 对其数据集进行 LLM（大型语言模型） 微调，以便了解其业务。
2. 向经过培训的LLM（大型语言模型）提示特定的业务背景（以便他们能够提出准确的见解）。
3. 根据这些见解采取行动。

集成不仅有助于汇集每种功能所需的数据，还能确保企业数据的保密性和完整性，同时维护客户数据的隐私性和合规性。

1.利用最新的企业数据对LLM进行微调  

LLM 通过多种训练技术进行学习，包括预训练、微调和人类反馈强化学习 (RLHF)。大多数 LLM 都会针对特定任务（如客户服务或法律审查）进行预先训练。

但是，要使 LLM 有效，就必须根据企业的业务数据进行微调。这就好比手机从出厂包装中取出后，将您的喜好加载到手机中的过程。

企业在向当地法律管理者提供来自其企业系统的最新数据方面面临挑战。这方面最大的问题之一是，能否以符合企业所在辖区相关安全和隐私法律的方式向当地法律管理机构提供信息。

大多数国家都有独特的隐私法，规定如何处理和存储个人信息。例如，欧盟的《通用数据保护条例》（GDPR）赋予个人访问、更正和删除其个人数据的权利。如今，要从 LLM 中删除或混淆信息非常困难。哪怕是一项从LLM中删除信息的请求，都需要对LLM进行代价高昂的再培训。在知识产权和LLM领域也存在类似的挑战。

API 和可组合架构为企业数据提供了一个治理层。该治理层通过编辑数据集中的个人身份信息（PII）来发挥作用。

此外，当数据从系统中流出并进入目标 LLM 时，您还可以将规则应用到 API，以审计跨物理和地理边界的数据流。这样，企业就能以符合当地和联邦法规的方式与模型进行交互。

2.通过提示平衡数据访问和安全性

一旦使用符合要求的数据对 LLM 进行了微调，我们现在就可以开始使用它来支持我们的客户方案。这可以通过提示 LLM 来实现。当我们提示 LLM 时，我们并不改变模型，而只是对模型的请求进行结构化，使模型在响应时更加具体。

更好的提示数据意味着 LLM 更好的响应。这就是集成的作用所在。在创建提示时，您可能希望将 SAP 的产品所有权记录等结构化信息与客户的电子邮件等非结构化信息整合在一起。

客户面临的另一个挑战是 LLM 的访问控制和数据泄漏。为了让 LLM 准确地响应提示，我们可能需要利用不同保密级别的信息对模型进行微调。

虽然可能有必要利用机密信息对模型进行微调，但限制模型在提示时放弃这些机密的能力却很有限–LLM 并不提供细粒度的访问控制。

理论上，只要提示正确，任何用户都可以访问任何数据。应用程序接口管理层可以围绕 LLM 提供一个安全框架，以控制访问并防止知识产权泄漏给未经授权的各方。

3.自动化操作，将LLM提升到更高的水平

虽然当今的 LLM 在本质上是对话式的，但它们正迅速向自主代理发展。自主代理有望增强人工智能的一个关键业务优势：自动化。

Einstein Copilot 是一种新的生成式人工智能对话助手，适用于所有 Salesforce 应用程序。服务代理或销售代表可以使用 Einstein Copilot 显示优化的工作计划。展望未来，Einstein Copilot 将努力实现该日程表中许多任务的自动化。成为自主代理的关键在于访问和使用工具的能力。集成再次发挥了作用。

我们今天使用的大多数基于网络的工具–从制图软件到支付引擎–都可以通过应用程序接口（API）访问。如果我们指导LLM如何通过应用程序接口使用工具，并将这种工具访问与工作流程功能相结合，LLM就能够自动执行日常任务。本地联络员不仅能看到我的日程表，还能解决出现的冲突，并根据我过去的行为做出最佳选择的智能决策。

当 LLM 有疑问时，它可以作为解决冲突的提示浮出水面。这一点非常重要，因为 GDPR 还赋予了个人反对自动决策的权利。这些人工回复会立即成为未来背景数据集的一部分；这是人类和机器如何合作简化业务并为公民和消费者改善结果的一个例子。

一个装在罐子里的大脑，需要把它从罐子里拿出来。通过整合企业系统，根据不断变化的业务数据对它进行微调。现在，大脑已经了解了你的业务，你可以向它询问见解。从您的企业数据中获取丰富的背景信息，最后让您的大脑通过访问工具和工作流程将这些见解付诸行动，从而实现企业内部功能的自动化。

原文链接：How Does Integration Enable AI? 3 Things You Need to Know