LLM 如何与聊天机器人中的 NLU 协同工作？

自然语言理解 (NLU) 和大型语言模型 (LLM) 可以协同工作，使聊天机器人能够理解人类语言，然后生成自然的响应，以与人类进行有意义的对话。

最初，LLM 被用于基于 NLU 的聊天机器人的设计阶段，以帮助构建意图和实体。现在，它们已经走出了 NLU 的阴影，并开始凭借其生成可理解文本的近乎神奇的能力成为焦点。

虽然 NLU 专注于从一个人的信息（意图）中寻找意义，但 LLM 则利用其庞大的知识库来生成相关且连贯的回应。

警告

LLM 和生成式 AI 并不完全准确，可能会产生不实的荒诞内容。因此，如果单独使用，没有防护措施，它不适合面向客户的企业用例，尤其是涉及敏感和私人信息的情况。

还有合规问题，不能泄露个人信息。个人信息绝不应泄露出企业范围，也绝不应用于培养法学硕士。

可以通过针对特定行业对 LLM 进行微调，并实施检索增强生成 (RAG)（为 LLM 提供来自外部来源的事实数据）来解决幻觉和安全风险。

就其本身而言，LLMS 的速度较慢且运行成本较高。

混合方法

目前尚无定论，但随着技术的发展，似乎混合方法是一种好方法。通过结合 NLU 和 LLM，聊天机器人可以更好地理解查询、提取相关信息并生成不仅符合语境而且语言自然的响应，从而创造更像人类的对话体验。

以下是聊天机器人中 NLU 和 LLM 之间相互作用的细分：

自然语言理解 (NLU) 的作用

提取意图和实体

NLU 组件负责从人类的输入中提取含义。它涉及意图识别、实体提取和情绪分析等任务。

NLU 帮助聊天机器人理解用户询问或表达的内容。它将文本分解为单个单词或短语，并用名词、动词和形容词等语法角色标记它们。然后，这些信息用于确定消息的整体意图，例如提出问题、寻求信息或请求服务。例如，客户可能会发送消息：“我想支付我的账户”，NLU 会将其归类为付款意图。

此外，NLU 可以识别实体，即人们对话中提到的特定信息，例如数字、邮政编码或日期。

例如，如果客户询问“我可以偿还一百英镑的债务。” NLU 会将意图识别为“承诺付款”并提取相关实体，即金额“100 英镑”。

控制、一致性和可靠性

使用 NLU 来支持对话式 AI 比仅使用 LLM 更可靠、更可预测，因为 LLM 容易产生幻觉，而且不太安全。为了安全起见，许多客户互动机器人都在使用经过用户验证的响应的 NLU。

大型语言模型 (LLM) 的作用

生成上下文响应

LLM 是功能强大的 AI 模型，就像 OpenAI 的 GPT 一样，它们经过大量数据训练，能够理解和生成类似人类的语言（它们还可以创建图像、编写音乐和代码）。它们对语言的细微差别和上下文有着深刻的理解，并且非常擅长生成语法正确的内容并模拟适合特定上下文的对话。

帮助理解语言

在上面使用的例子中，客户说“我想支付我的账户”，NLU 将其归类为付款意向。但是，它必须接受有关人们表达这种意图的多种方式的训练。有了 LLM，它可以更全面地理解一个人在说什么，无论他们使用什么术语。他们可能会说“我要还清我的欠款”或“我想还清我的债务”，而 LLM 会将其理解为付款意向。

护栏的重要性

出于安全原因，LLM 需要使用护栏进行编程，以缩小对所提供数据的响应范围，并严格排除任何不在所需参数范围内的内容。