LLM 安全性取决于 API 安全性

大型语言模型（LLM）的使用在短时间内获得了巨大的发展。生成式人工智能不仅极大地改变了用户体验，也改变了软件的生产方式。LLM 与应用程序接口（API）搭配，可以轻松集成到各种应用程序中，从而获得令人印象深刻的人工智能功能。

Akto 公司联合创始人兼首席执行官安基塔-古普塔（Ankita Gupta）认为，API 是当前人工智能革命的支柱，有助于收集数据、完善和整合这些强大的模型。然而，使用 LLM 时也要考虑 API 的安全风险。最值得注意的是，与 LLM 相关的威胁，如提示注入和数据泄漏，应该成为在拥挤的市场中竞争的人工智能公司的首要考虑因素。

为什么 API 对于 LLM 的运作如此重要？

根据我们的经验，一个组织平均使用大约十个 LLM 模型。这些 LLM 通过 API 间接获取数据。因此，当我们谈论 LLM 时，我们实际上是在谈论帮助我们使用和微调这些模型的 API。

开发人员使用应用程序接口（API）将 LLM 功能添加到现有应用程序中，以实现获取和处理数据等操作。规模是另一个重要方面。我们依靠应用程序接口来确保我们的 LLM 能够处理越来越多的数据。我们使用 API 来更新和改进 LLM，并将其集成到我们的应用程序工作流程中。基本上，API 是使用、扩展和定制 LLM 模型的方法。

为什么LLM的安全性最近变得越来越重要？

2023 年 3 月 20 日，ChatGPT 出现故障。这次故障是由一个开源库中的漏洞造成的，该漏洞可能暴露了一些客户的支付相关信息。2023 年 9 月，Gartner 披露，34% 的企业已经在使用或实施人工智能应用安全工具，以降低伴随的LLM风险。超过一半（56%）的企业还在探索此类解决方案。

在过去一年中，约 77% 的组织已经接受或正在探索生成式人工智能（GenAI），推动了对简化和自动化流程的需求。在过去 12个月中，对 GenAI 模型和 LLM（如 ChatGPT）的依赖呈指数级增长，因此这些模型的安全措施的重要性已成为企业的首要任务。

有哪些特定的 API 漏洞是 LLM 所特有的？如何避免？

其中一个主要问题是提示注入，即恶意输入可以操纵 LLM 的输出。这已成为一个主要问题。其他威胁包括拒绝服务（DoS）威胁，即系统请求过多，导致服务中断。另一种威胁是过度依赖 LLM 的输出，而没有适当的验证机制，这可能导致数据不准确或者泄漏。

LLM API 提供商或消费者有责任填补这些空白吗？

这确实是一项共同的责任！

LLM API 提供商必须确保 API 以安全的方式构建，并符合数据保护法。这包括强大的身份验证、加密和访问控制。提供商还应确保应用程序接口能够处理大量请求，并有适当的速率限制，以避免 DoS 攻击。

另一方面，消费者有责任根据指南和文档正确集成 API。除其他事项外，消费者还应确保以安全的方式在 API 中输入数据。

不保护 LLM 应用程序接口会带来哪些负面业务结果？

如果 LLM 应用程序接口没有得到适当的保护，可能会产生一些负面结果。其中一个主要问题就是客户数据泄露的风险。试想一下，如果你是一个 LLM 提供商，由于你的 LLM API 存在漏洞，客户的敏感数据就会暴露。您不会希望出现这种情况。这会严重损害您的品牌声誉。这事关重大，你知道吗？

此外，如今LLM的竞争越来越激烈，这已经不仅仅是功能性的问题了。安全性正在成为一个关键因素，尤其是当你的消费者是企业时。因此，如果您想在这个拥挤的市场中脱颖而出，就必须优先考虑 LLM API 的安全性。这已经不再是一个 “不错 “的条件，而是必须具备的条件。

原文链接：LLM Security Hinges on API Security