如何追踪AI API的使用情况：终极指南

在开放人工智能 (AI) 服务方面，API（应用程序编程接口）已成为将 AI 功能集成到软件和应用程序中的基石。这些 API 提供对各种 AI 模型的访问，从自然语言处理到图像识别，为开发人员和企业开辟了许多可能性。

然而，随着 AI API 的日益普及，有效跟踪使用情况的需求也随之而来。无论您是管理客户API访问权限的 AI 提供商，还是将 AI 集成到项目中的开发人员，了解 API的使用方式都至关重要。

在本指南中，我们将探讨如何跟踪您的 AI API 使用情况，解释其相关性，并向您介绍如何利用 Moesif 的API 分析功能深入了解您的 API 流量。在阅读完本指南后，您将掌握有效监控、分析和优化 AI API 使用情况的知识和工具。

什么是 AI API？

在开始跟踪 AI API 的使用情况之前，让我们先简化一下“AI API”这个术语。AI API 是一种软件界面，可让您与预先训练的 AI 模型进行交互。这些模型已被“训练”来执行各种形式的内容，例如语言翻译、情感分析或创意内容生成。

当您使用 AI API 时，您会向其发送输入（例如您想要翻译的句子或您想要分析的图像），然后 API 使用底层 AI 模型对其进行处理。然后它返回输出（翻译后的文本、图像中识别的对象等）。这一切都顺利进行，并隐藏了后台发生的详细公式。

AI API 之所以流行，是因为它们允许开发人员将高级 AI 功能添加到他们的应用程序，而无需从头开始构建和训练自己的模型。这节省了时间和资源，并向更广泛的用户开放了 AI。许多公司现在通过 AI API 向世界展示他们的 AI 能力。

为什么要跟踪 AI API 的使用情况？

跟踪 AI API 的使用情况可让您发现推动 AI 计划向前发展的主导趋势。以下是跟踪至关重要的一些原因：

成本管理：AI API 通常采用按使用付费模式。跟踪使用情况可帮助您了解支出模式、确定潜在的成本优化并更有效地进行预算。
性能监控：通过监控您的 API响应时间、错误率和延迟，您可以确保您的 AI 驱动的应用程序顺利运行并提供积极的用户体验。
安全和异常检测：使用跟踪可以帮助您识别异常的活动模式并指出潜在的安全漏洞。
用户行为分析：了解用户如何与您的 AI 功能进行交互，可以让您定制您的产品、促进用户互动并确定未来开发工作的优先顺序。
商业智能：使用数据可以为做出数据驱动的决策、识别最受欢迎的 AI 功能、了解高峰使用时间或衡量 AI 投资的投资回报率提供有价值的信息。
计费和基于使用情况的定价：如果您是 AI 提供商，准确的使用情况跟踪可确保为您的客户提供公平、公开的计费。
调试和故障排除：如果出现错误或问题，拥有API 请求和响应的详细日志可以帮助诊断和解决问题。

跟踪您的 AI API 使用情况使您能够做出明智的决策，优化您的资源，增强安全性，并最终为您的用户和客户提供更多价值。

您应该追踪什么？

现在我们了解了跟踪背后的“原因”，让我们来探索“什么”。以下是您应该监控的指标，以便更深入地了解您的 AI API 使用情况：

API 调用量：
- 在给定时间段内发出的 API 请求总数。
- 监控峰值、趋势和异常，以确定高峰使用时间和潜在瓶颈。
令牌用法（用于语言模型）：
- API 处理的输入和输出令牌的数量。
- 这对于成本管理至关重要，因为许多 AI 提供商根据代币使用情况收费。
独立用户/公司：
- 访问您的 API 的不同用户或公司的数量。
- 这可以帮助您了解您的客户群并识别最活跃的用户。

通过跟踪这些关键指标，您将了解 AI API 使用情况的各个方面，从而能够做出明智的决策，优化您的性能并为 AI 项目的成功提供动力。

如何使用 Moesif 跟踪 AI API 使用情况

Moesif 是一个全面的 API分析平台，可让您深入了解 API 流量，包括用户的 AI API 使用情况。以下是您可以利用 Moesif 进行有效跟踪的方法：

按 API 调用量跟踪使用情况：

Moesif 自动捕获对 AI 端点的每个 API 调用。
您可以查看这些调用的详细日志，包括时间戳、请求/响应负载、状态代码和响应时间。
分析 API 调用量趋势，识别最常用的端点，并检测异常或突然的使用高峰。

通过输入/输出令牌跟踪使用情况：

GPT-4 和 Gemini 等大型语言模型 (LLM) 通常以 token（单词片段）来衡量其使用情况。Moesif 可以跟踪每个 API 调用的输入和输出 token 数量。
这对于了解用户的代币消费以及优化定价和基础设施成本至关重要。

按唯一用户或公司跟踪使用情况：

Moesif 可以将API 调用与特定用户或公司关联起来，让您能够更深入地监控使用情况，识别最活跃的用户，并了解不同客户群的使用模式。
这可以提供有关您的用户群如何增长以及您的营销、销售和入职流程是否有效的重要见解。

下一步，让我们深入了解每一种跟踪方法以及如何在 Moesif 中探索这些指标。

按 API 调用量跟踪使用情况

首先，我们将使用 Moesif 中的时间序列图来分析 API 调用量的使用情况。要打开新的时间序列图，请在 Moesif 仪表板中点击屏幕左上角的 + 新建按钮，然后选择时间序列。

要配置时间序列图，我们需要拨入过滤器和指标部分。首先，为要探索的特定 AI API 路由添加过滤器，并可能向过滤器添加其他条件，例如 HTTP 动词/方法、响应状态代码等。

设置过滤器后，将“指标”下拉列表设置为“事件计数”。这意味着图表上显示的指标将是 API 调用量或总体事件计数。以下是可能的示例：

一旦我们的图表标准完成，我们就可以看到以折线图形式呈现的结果图表。这将使我们能够直观地了解用户 AI API 使用趋势。

或者，如果您正在寻找一种更简单的方法来查看确切的数字，您可能希望以表格形式查看结果，您可以通过选择图表窗格左上角的表格视图选择器来实现。以下是上述数据以表格形式显示的示例。

跟踪唯一用户或公司的使用情况

就像按 API 调用量查看使用数据一样，我们将再次使用 Moesif 中的时间序列图表，通过单击屏幕左上角的 + 新建按钮来分析按唯一用户或公司划分的使用情况。

同样，我们将为想要探索的特定 AI API 路由添加一个过滤器，并可能向过滤器添加其他条件，例如 HTTP 动词/方法、响应状态代码等。设置过滤器后，我们将指标下拉菜单设置为唯一值 > 唯一用户或唯一值 > 唯一公司，具体取决于我们想要查看哪个指标。这意味着图表上显示的指标将是在设定的时间段内访问我们 API 的唯一用户或公司总数。以下是可能的示例：

一旦我们的图表标准完成，我们就可以在折线图中看到结果，其中显示了访问 API 的唯一用户或公司的数量。这将使我们能够直观地了解 AI API 使用趋势。下图显示了过去七天每天的唯一用户数量。

通过选择表格视图，我们可以将相同的数据以表格的形式查看，如果您想更轻松地查看精确的数字，这样可以更容易地查看。

通过输入/输出令牌跟踪使用情况

就像查看我们的其他示例一样，为了分析输入和输出令牌的使用情况，我们将再次使用 Moesif 中的时间序列图表，方法是单击屏幕左上角的 + 新建按钮。

这次，我们将为想要探索的特定 AI API 路由添加一个过滤器，并可能向过滤器添加其他标准，例如 HTTP 动词/方法、响应状态代码等。与以前的图表不同，此图表将包含三个指标：一个用于输入令牌，一个用于输出令牌，一个用于总令牌。我们将单击“指标”下拉菜单并选择“选择字段…”选项来添加我们的指标。从这里，我们将：

选择代表所消耗的输入令牌的 API 响应元素。这将是以下案例中的 response.body.generated_text.usage.prompt_tokens 字段。
将字段的聚合设置为“sum”。这将聚合使用情况并总结所有 API 调用的总使用情况。
单击添加指标按钮。
与输入令牌一样，选择 API 响应中表示所用输出令牌的字段，并将聚合设置为“总和”。
再次单击添加指标按钮，然后从选项中选择输入公式…。
在公式字段中，添加“a + b”。这将采用指标“a”（我们的输入标记），将其添加到指标“b”（我们的输出标记）并将它们相加。
或者，您可以通过单击省略号并选中自定义名称来为每个指标添加自定义名称。

以下是一个示例，其中包括每个字段的自定义名称：