利用AI API增强您的应用程序

在最近的一篇博客文章中，我们讨论了如何利用大型语言模型（LLM）来增强您的API项目。今天，我们将深入探讨如何在应用程序中使用AI，特别是如何利用LLM来构建应用程序。我们还将讨论在决定是构建自己的AI API还是使用第三方AI供应商API时需要考虑的关键因素。

您可以用AI API构建什么？

AI为应用程序开发带来了无限的可能性。让我们先来看一些公司如何利用LLM创建实际应用程序的例子。以下例子使用了OpenAI开发的LLM，这些模型通过OpenAI API提供。

对话式客户服务— Instacart利用OpenAI的平台开发了一项名为“Ask Instacart”的新功能，计划在今年晚些时候发布。客户在创建购物清单时可以向聊天机器人提问。同样，Shopify也推出了一款基于ChatGPT的助手，用户可以就广泛话题与其聊天。
自动生成编程代码— 在最近的汉诺威工业博览会上，西门子宣布与微软达成合作，涉及利用ChatGPT和Azure AI服务增强自动化工程。公司展示了工程师如何使用自然语言输入生成PLC代码。这种代码自动化有助于节省时间并减少错误。
医疗文书处理应用— Doximity创建了一款基于ChatGPT的应用程序，让医疗提供者可以根据库中的提示或创建新提示来生成文档。例如，医生可以使用该工具快速创建一封关于特定病情的必要性信函，然后使用同一工具将其数字传真至相关保险公司。该应用通过简化行政任务帮助医疗专业人员节省宝贵时间。
自动生成个性化电子邮件— Salesforce宣布推出Einstein GPT，集成了ChatGPT，能够自动生成用于营销和销售的个性化电子邮件。同时，微软宣布推出Microsoft 365 Co-Pilot，该工具由包括GPT-4在内的多个LLM提供支持，可以生成电子邮件回复草稿并总结电子邮件线程。
AI驱动的虚拟导师— Khan Academy开发了Khanmigo，这是Khan Academy的AI驱动指导助手。该助手可以为学生提供一对一的辅导，并为教师提供帮助。虚拟助手由GPT-4提供支持，目前处于试点阶段，已有等待名单。
增强语言课程— Duolingo在其Duolingo Max产品中集成了GPT-4，引入了一个专门的对话功能和一个名为“解释我的答案”的新功能。该功能在用户出错时为其提供规则解释。
AI视频脚本写作— Waymark将GPT-3集成到其产品中，为用户提供了一种轻松创建个性化视频脚本的方法。AI会在几秒钟内生成定制的相关视频广告脚本，用户可以编辑生成的脚本，而无需从头开始创建。

虽然这些例子都使用了OpenAI的LLM，但您并不需要使用LLM来将AI功能集成到您的应用程序中。您可以找到提供小型AI模型的平台和产品，每个模型都针对特定领域或任务而设计。此外，您还可以选择构建自己的LLM或多个小型AI模型。

通过将AI应用于特定任务和用例，您可以创建解决现实问题的应用程序。您可以创建创新且有价值的应用程序，用户会乐于使用！

将AI功能添加到您的应用程序中

如果您想在应用程序、平台或系统中添加AI功能，通常需要使用API。添加AI功能到应用程序中通常涉及两个部分：

AI— 一个执行特定任务或功能的AI模型或一组AI模型。
API— 将AI功能集成到您的应用程序中的接口。

您可以选择在内部构建AI API，或购买现有的供应商API。或者，您可以采取混合方法，部分AI功能由内部创建，部分从第三方购买。

构建自己的AI解决方案

无论您决定是构建还是购买AI解决方案，都有许多因素需要考虑——这些因素太多，无法在这篇博客文章中全部涵盖。不过，如果您考虑开发自己的AI解决方案，请记住以下几点：

开发AI的初始和持续成本— 在内部构建AI解决方案需要大量的时间和资金投入。除了适当的基础设施和计算能力，您还需要AI专业知识、领域知识和训练数据。您还需要训练和重新训练模型，等等。像GPT-3这样的LLM训练成本可能超过400万美元。
构建AI所需的人才— 构建AI解决方案需要AI人才。近年来，AI人才一直非常短缺。随着LLM的流行，想要构建它们的公司需要找到具备深度学习和自然语言处理（NLP）等专业技能的人才。您还需要记得“提示工程师”这个角色，负责为LLM模型创建有效的提示！
模型训练数据— AI模型需要大量高质量的训练数据。大多数LLM至少需要数GB的训练数据。您将从哪里获得模型的训练数据？如果您从Common Crawl等开放存储库获取数据，这些数据集往往嘈杂且包含不需要的内容，您还需要有人能够清理和准备这些数据以进行模型训练。
确保AI模型的质量— 确保质量控制在开发AI模型时至关重要，特别是LLM，因为它们有时会产生不可预测的结果！您需要确保能够充分验证所有的AI模型，以确保它们可靠地执行任务。

以上只是冰山一角！在创建自己的AI模型时需要考虑的因素非常多。如果您决定为应用程序构建AI，还需要创建一个API来集成它。

构建自己的AI API

一旦您确定了如何构建AI解决方案，就需要解决如何为其构建API的问题。在构建自己的API时，需要考虑以下几个因素：

API设计方法— 我们建议采用API设计优先的方法，因为它可以帮助您以成本效益高且节省时间的方式生产一致且可靠的API。考虑使用OpenAPI等API规范，在编写代码之前确定API的细节。
开发者体验— 无论API是仅供内部使用还是面向外部消费者，开发者体验始终重要。您需要确保开发者拥有成功实现“Hello World”所需的工具。这些工具可能包括API文档、多种语言的SDK和开发者指南。
API治理— 某些行业需要一定程度的标准化，治理可以帮助您通过API实现这一目标。您可能需要考虑实施API治理计划。治理有助于确保组织中所有API的一致性。
协作工具— 您需要与所有API利益相关者进行有效协作，及时获得关键设计决策的反馈。Stoplight的Discussions等工具可以帮助您改善利益相关者之间的沟通，并支持异步协作。

如果构建自己的AI API让您感到有些望而却步，可以通过第三方AI解决方案为您的应用程序添加AI功能。然而，开发自己的AI API提供了一些关键优势，包括：

控制权— 当您构建自己的AI API时，您可以控制其设计和开发的各个方面。您可以控制用于训练AI模型的数据。您不必遵守AI供应商的服务条款或限制。因为这是您的AI和API，所以您可以为它们设置规则和标准。
可见性— 大多数AI供应商不会向您提供有关训练其模型的数据细节或数据预处理的见解。当您自己构建模型时，您知道数据的来源以及如何处理这些数据。您可以确保模型获得多样化的训练数据，有助于减少模型输出中的偏差。

如果您想尝试AI或希望更快地为您的应用程序添加AI功能，考虑购买一个带有API的AI解决方案。

是否应该使用AI供应商？

使用第三方API为您的应用程序添加AI功能通常比构建自己的AI API更简单、更快捷。您不必从头开发AI解决方案或API，因为供应商已经为您完成了这些工作。您也不必担心维护AI和API基础设施。

尽管如此，使用AI供应商也有一些缺点，例如：

您受限于他们的服务条款，而这些条款可能会随时更改。您还可能遇到API速率限制问题。
许多LLM是“黑箱”。您无法了解训练数据的来源或模型的训练过程，这意味着模型可能会在输出中出现偏见或缺乏代表性。
您经常会看到复杂的定价或基于不同使用方式的定价，这可能导致意外的高昂成本。例如，您可能会有LLM提示、完成或令牌的使用定价，以及API访问的单独订阅费用。
没有哪个平台能完全免于停机。您的AI供应商一旦出现停机，可能会暂时拖慢或中断您的应用程序。
AI供应商最终可能会倒闭或被大企业收购。构建自己的AI解决方案和API可以在长期内确保更大的控制和稳定性。

虽然使用第三方AI API有一些缺点，但这选项可能非常适合您的情况。如果您想开发一款由LLM驱动的应用程序，您可以选择越来越多的商业和开源选项。例如，您可以从OpenAI、AI21和Cohere等公司找到商业LLM API选项。以上三家公司均提供免费试用。

Hugging Face是一个AI社区和开源模型与数据集的存储库。您可以在Hugging Face上找到各种开源AI模型，包括LLM。BLOOM是一种开源自回归LLM，可在Hugging Face上获取。您可以将开源AI模型与Hugging Face托管推理API集成，该API有免费和付费订阅层级。

文章来源：Superpower Your Applications with AI APIs