最佳实践：API速率限制与节流

有限的资源是这个世界上每一个系统的基础。

例如，计算机系统的可用内存量是有限的。这是软件开发人员在管理应用程序中的内存使用时通常面临的挑战。由于使用过多内存会导致程序变慢或崩溃，开发人员需要小心优化内存使用并避免内存泄漏。

应用程序编程接口（API）也是一样的。

为了保持最佳质量并确保其安全，应用速率限制是必不可少的。速率限制可以充当 API安全措施来保护 API ———消除恶意机器人和 DDoS 攻击导致的性能缓慢。当大量合法用户同时访问 API 时，它也很有用。

API 限制也是一种旨在管理 API 流量和防止过载的技术——但方式不同。

API 节流和速率限制都是有效管理 API 的关键方法。您选择的技术取决于您企业的具体需求和要求。了解这两种技术的区别很重要，以确保为您的 API 部署正确的方法以实现最佳性能。

接下来是对 API 速率限制和节流的详细分析。

什么是速率限制？

速率限制是控制发送到服务器或 API 的请求数量的一种方式。

这很重要，因为它可以帮助服务器避免不堪重负，并确保一切顺利运行。如果发出的请求过多，服务器可以拒绝请求、显示错误消息或等待一段时间再做出响应。

最常见的速率限制技术是 Amazon Web Services API 使用的令牌桶算法。其工作原理如下：

当客户端发出请求时，服务器会检查桶中是否有可用的令牌。如果有可用的令牌，服务器会从桶中取出一个令牌并处理请求。如果没有令牌，服务器会拒绝该请求，客户端必须等待新的令牌。

令牌桶算法的工作原理是为每个请求分配令牌，每个令牌代表一个允许的请求单位。

令牌以固定的速率添加到桶中，设置可以处理的最大请求数。

令牌桶算法是一种灵活的技术，可以控制流量速率并可用于防止系统过载。

其他一些常见的 API 速率限制技术包括：

配额：这限制了在一定时间内（一秒、一分钟或一小时）可以发出的请求数量。它有助于确保明智而高效地使用资源。可以为应用程序的不同部分（例如用户或客户端）设置配额。

请求限制：一种限制特定时间段内发出的请求数量的技术。请求限制是一种管理流量高峰的有效方法，通常比其他速率限制技术更严格。

动态速率限制：根据 API 的当前使用情况和性能调整速率限制。例如，如果进入 API 的请求过多，则会导致速率限制降低，以防止系统过载。

API限制是一种控制 API 请求数量的技术，通过暂时阻止超出允许请求率的客户端来控制。这样可以防止他们在一定时间内发出任何进一步的请求。

限制是服务器在客户端在特定时间段内超出预定义限制时采用的一种响应技术，比速率限制更积极。

节流通常用于管理 API 流量并防止过载——通过确保服务器可以处理来自多个客户端的请求而不会减慢或崩溃。

节流可以通过不同的方式实现：

延迟对传入请求的响应：服务器有意延迟对传入 API 请求的响应。例如，它可能会延迟发送请求的信息一小段时间，例如几秒钟。此延迟可以统一适用于所有请求，也可以根据特定客户端的请求数量而变化。

暂时阻止超过允许请求率的客户端：检测以超过允许限制的速率发出请求的客户端，并阻止它们在一段规定的时间内发出进一步的请求。

请求排队：当向服务器发出请求时，它会将该请求与所有其他收到的请求一起放入队列中。然后，服务器根据收到的顺序处理每个请求。如果请求队列太长，服务器可能无法处理更多请求，因此新请求必须等待。

并发请求限制：服务器限制每个客户端的并发请求数，比如每个客户端每秒最多可发出 10 个请求。

带宽限制：限制在一定时间段内传输到客户端或从客户端传输的数据量。限制可以基于客户端的 IP 地址、用户帐户或其他相关因素。

通过强制限制 API 的使用，节流有助于维护系统稳定性并确保不同客户端之间的公平资源分配。

防止服务器过载：通过控制接收请求的速率来帮助防止服务器过载。通过限制在一定时间范围内发出的请求数量，您可以保持服务器的稳定性和响应能力。

防范恶意攻击：防范恶意攻击，例如拒绝 (DoS) 攻击，这种攻击的目的是向服务器发送过多的请求。通过限制请求的速率，您可以防止这些类型的攻击造成损害。

管理资源和成本：通过控制 API 的使用来管理资源和成本。通过限制可发出的请求数量，您可以以最高效的方式使用资源，并避免因过度使用 API 而产生不必要的成本。

对于非技术受众来说，解释速率限制的概念可能具有挑战性。但是，如果您想查看PandaDoc 提供的免费咨询提案模板，您可以清楚简洁地传达这种方法的优点和局限性 – 让潜在客户和利益相关者能够就他们的 API 使用做出明智的决定。

这种简化的方法可确保所有必要的细节都以专业的方式纳入和呈现，以透明的方式为各方节省时间和精力。

确保公平使用：通过限制每个用户或客户端处理请求的速率来确保 API 的公平使用。这有助于防止某些用户或客户端垄断资源，并确保所有用户都能平等地访问 API。

提供更好的用户体验：控制请求数量有助于避免 API 过载并确保快速处理请求。这可以改善用户体验和开发者体验，使其更加流畅、响应更快，从而让客户更满意，更有可能保持忠诚度。

促进合规：对于必须遵守法规或准则的企业来说，这至关重要。例如，准备数字营销提案的企业必须遵守数据隐私法或行业标准。这同样适用于 API。如果您控制请求的处理速度，则可以确保您的企业遵守规则并避免法律或声誉问题。使用标准化的API 样式指南可以使此过程更加顺畅。

	API 速率限制	API 限制
资源的级别是怎样的？	客户端级别	服务器级别
主要目标是什么？	防止客户端发出过多请求并避免 API 滥用	API 可以管理接收流量
如何实现？	通过设置客户端在规定时间段内对 API 发出的请求速度和数量限制	通过设置规定时间段内对 API 发出的请求数量限制
极限范围响应有哪些？	在规定的时间段到期之前，不会处理其他请求	在定义的时间段到期或客户支付更多 API 调用费用之前，不会处理其他请求