阿里云开源AI应用开发框架：Spring AI Alibaba

阿里云开源 Spring AI Alibaba，旨在帮助 Java 开发者快速构建 AI 应用，共同构建物理新世界。

项目简介

Spring AI Alibaba 项目的产生背景是生成式 AI 与大模型在过去一年的快速发展，大家应该有直观的感受，周边所有人都在聊模型服务，但是训练大模型本身是少部分企业和算法工程师的职责，我们作为使用方、开发者，更关注的应该是如何为我们的应用接入生成式AI能力。

对应用来说，最直观的 AI 模型接入方式就是使用 Open API，包括阿里云通义系列模型、OpenAI 等都有提供 Open API 访问方式，这种方式最灵活、但可想而知对于开发者成本会非常高，我们要理解API规范，还要学习与AI模型交互的各种模式。如果我们是使用 Spring 开发的 AI 应用，那么我们可以使用 RestTemplate这样的工具，它可以减少我们调用 API 的成本，但对于一些通用的 AI 应用开发范式，RestTemplate 并不能给我们带来什么帮助。因此，对于Java开发者来说，我们需要一款AI应用开发框架来简化AI应用开发。

在这样的背景下，Spring 官方开源了 Spring AI 框架，用来简化 Spring 开发者开发智能体应用的过程。随后阿里巴巴开源了 Spring AI Alibaba，它基于 Spring AI，同时与阿里云百炼大模型服务、通义系列大模型做了深度集成与最佳实践。基于 Spring AI Alibaba，Java 开发者可以非常方便的开发 AI 智能体应用。

阿里巴巴和 Spring 官方一直保持着非常成功的合作，在微服务时代共同合作打造了 SpringCloud Alibaba 微服务框架与整体解决方案，该框架已经是国内使用最广泛的开源微服务框架之一，整体生态 star 数超过 10w。

关于 Spring AI Alibaba，我们期望保持同样的深度合作模式，其中 Spring 社区主要负责绿色部分，即智能体应用开发原子能力与API的抽象，Spring AI Alibaba 社区负责与阿里云通义模型、云原生基础设施的深度集成，同时包括与智能体业务落地更密切的一些核心能力如流程编排、开发工具集、应用评测、可观测、配置管理、流量管控等的抽象和实现。背靠 Spring 与阿里巴巴两大开源社区支撑，相信 Spring AI Alibaba 项目将会长期保持一个持续且健康的发展态势。

核心特性

以下是 Spring AI Alibaba 框架的核心特性，可以帮我们加速和简化 Java 智能体应用的开发。

第一点，Spring AI Alibaba是专门为Spring和Java开发者设计的智能体开发框架，使用它开发应用就如同开发一个普通的Spring Boot应用，理解成本非常低。

第二点，框架对AI智能体应用的通用开发范式做了很好的抽象，从原子能力层次如对话模型接入、提示词模板到函数调用，再到高层次抽象如智能体编排、对话记忆等。

第三点，框架默认与通义系列模型做了深度适配，除此之外，还提供了应用从部署到运维的最佳实践，包括网关、配置管理、部署、可观测等。

接下来，我们一起看一下 Spring AI Alibaba 框架中的一些具体概念与 API 定义

聊天模型（Chat Model）

首先，是 SpringAI 对模型基本交互的抽象与适配，其实智能体应用开发本质就是一个与大模型服务不停交互的过程，应用为模型提供语义化的输入，模型推理后反馈给我们输出。

与模型交互的输入输出可以是文本，比如最早期的 ChatGPT，现在我们不止有文本型模型、还有支持图像、视频、语音等的模型，因此输入输出对应的可能是各种类型的。包括一些模型开始支持多模态输入，也就是图形、文本的混合输入。

Spring AI 对于这种类似聊天式的大模型交互模式提供了完整的抽象，包括文本、图像、语音等，对于应用开发者来说，可以直接调用 Spring AI 提供的 API，以方法入参做模型输入，返回值作模型输出，同时还支持同步、异步、流式等通信模式。如果开发者要切换底层的模型服务，也是完全透明无感的。

提示词（Prompt）

Prompt 提示词是与模型交互的一种输入数据组织方式，本质上是一种复合结构的输入，在 prompt 我们是可以包含多组不同角色（System、User、Aissistant等）的信息。如何管理好 Prompt 是简化 AI 应用开发的关键环节。

Spring AI 提供了 Prompt Template 提示词模板管理抽象，开发者可以预先定义好模板，并在运行时替换模板中的关键词。

SpringAI 还支持从资源文件中直接加载提示词模板：

格式化输出（Structured Output）

大模型返回的数据通常是非格式化的，而应用上下游需要传递格式化的、确定的数据结构。因此 SpringAI 提供了结构化输出转换的能力，它可以自动化的帮我们在 Prompt 中加入数据格式信息，辅助模型理解我们要求的结果数据格式，同时在拿到模型数据后完成到 JavaBean 的转换。

以上图为例，Spring AI 框架帮我们简化了整个格式化输出转换的过程，包括格式信息输入与结果转换。

函数调用（Function Calling）

函数调用是AI应用与模型交互中一个非常典型的范式，它可以辅助模型更好的回答用户问题。我们在给模型输入的过程中，附带上可用的函数列表（包含函数名、函数描述等），模型在收到问题和函数列表后，根据对问题的推理在必要的时候发起对函数的调用。

SpringAI 帮我们规范了函数定义、注册等过程，并在发起模型请求之前自动将函数注入到 Prompt 中，而当模型决策在合适的时候去调用某个函数时，Spring AI 完成函数调用动作，最终将函数执行结果与原始问题再一并发送给模型，模型根据新的输入决策下一步动作。这其中涉及与大模型的多次交互过程，一次函数调用就是一次完成的交互过程。

这里是函数调用过程中具体的模型交互过程分析。

以上是没有函数计算时应用和模型的交互过程，应用给模型的输入是求一个数的平方根，模型根据自己的理解算出了一个结果，但并不准确。

为了解决这个问题，我们定义了一个求平方根的函数，并通过 Spring AI 提供的注解将这个函数注册为一个可与模型交互的特殊函数，如下图代码段所示：

下图是有了函数调用之后应用与模型的交互，可以看到为了得到最终答案，应用总共有两轮与模型的交互过程。第一次是发起求平方根提问，与之前的不同是请求 prompt 中携带了 “tools” 信息（包含我们定义的函数），此时模型返回了 “ToolExecutionRequest” 的特殊结果，要求 Spring AI 通过调用函数来辅助完成求平方根的动作；随后是第二轮模型交互，Spring AI 把原始问题和函数执行结果发送给模型，模型最终生成回答。

检索增强（RAG）

RAG 是另外一个常用的智能体应用开发范式，它本质上和函数调用类似，也是应用程序辅助模型推理与回答问题的一种方式，只不过在交互流程上和函数调用略有区别。

如上图所示，总体上 RAG 是分为离线和运行时两部分。离线部分是将一些领域特有数据进行向量化的过程，将向量化的数据存入向量数据库。图中后半部分体现的运行时流程，Spring AI 框架在组装 prompt 时，会额外检索向量数据库，最终生成一个比用户原始问题具有更多辅助上下文的 prompt，然后将这个具备上下文的 prompt 给到模型，模型根据用户问题、上下文以及自己的推理生成响应。

Spring AI 提供了从离线数据加载、分析到向量化存储的抽象，也提供了运行时检索、prompt 增强的抽象。

示例实践

Hello World 示例

可参考官网文档快速开始详细了解如何使用 Spring AI Alibaba 快速开发生成式 AI 应用。https://sca.aliyun.com/ai/get-started/

使用 Spring AI Alibaba 开发应用与使用普通 Spring Boot 没有什么区别，只需要增加 spring-ai-alibaba-starter 依赖，将 ChatClient Bean 注入就可以实现与模型聊天了。

添加依赖

<dependency>

    <groupId>com.alibaba.ai</groupId>

    <artifactId>spring-ai-alibaba-starter</artifactId>

    <version>1.0.0-M2</version>

</dependency>

注意：由于 spring-ai 相关依赖包还没有发布到中央仓库，如出现 spring-ai-core 等相关依赖解析问题，请在您项目的 pom.xml 依赖中加入如下仓库配置。

<repositories>



    <repository>



        <id>spring-milestones</id>



        <name>Spring Milestones</name>



        <url>https://repo.spring.io/milestone</url>



        <snapshots>



               <enabled>false</enabled>



        </snapshots>



    </repository>



</repositories>

配置 application.yaml 指定 API-KEY（可通过访问阿里云百炼模型服务平台获取，有免费额度可用）

spring:

  ai:

    dashscope:

      api-key: ${AI_DASHSCOPE_API_KEY}

注入智能体代理 ChatClient

@RestController

public class ChatController {



    private final ChatClient chatClient;



    public ChatController(ChatClient.Builder builder) {

        this.chatClient = builder.build();

    }



    @GetMapping("/chat")

    public String chat(String input) {

        return this.chatClient.prompt()

                .user(input)

                .call()

                .content();

    }

}

智能机票助手

接下来，我们通过一个更贴近实际使用场景的示例，来展示 Spring AIAlibaba 在构建智能体应用方面的强大能力。

示例目标是使用 Spring AI Alibaba 框架开发一个智能机票助手，它可以帮助消费者完成机票预定、问题解答、机票改签、取消等动作，具体要求为：

基于 AI 大模型与用户对话，理解用户自然语言表达的需求；
支持多轮连续对话，能在上下文中理解用户意图；
理解机票操作相关的术语与规范并严格遵守，如航空法规、退改签规则等；
在必要时可调用工具辅助完成任务；

完整架构图

基于这样一个智能机票助手目标，我们绘制了一个如下图所示的架构图：

接下来，我们结合架构图对示例进行详细分析。

为应用接入 AI 模型服务

本质上来说，我们是要用 Spring Boot 开发一个普通的 Java 应用，这个应用能够持续的接收用户的提问，为用户解决机票相关的问题，之所以叫它为智能体应用是因为我们这个应用可以与 AI 交互，由 AI 帮助应用理解用户问题并为用户做决策。

机票助手应用简化后的架构图如下所示：

使用 RAG 增加机票退改签规则

基于以上架构图，用户的机票业务请求都是由 AI 模型理解并决策，确定下一步动作、驱动业务流程。但任何一个通用的大模型都能帮我们准确无误的解决机票相关的问题吗？依赖模型的决策是可靠的吗？比如有用户提出了机票改签的诉求后，模型一定是能够很好的理解用户的意图的，这点没有疑问。但它怎么知道当前用户符不符合退票规则呢？要知道每个航空公司的改签规则可能都是不一样的；它怎么知道改签手续费的规定呢？在这样一个可能带来经济纠纷、法律风险的应用场景下，AI模型必须要知道改签规则的所有细节，并逐条确认用户信息复合规则后，才能最终作出是否改签的决策。

很显然，单纯依赖 AI 模型本身并不能替我们完成上面的要求，这个时候就要用到 RAG（检索增强）模式了。通过 RAG 我们可以把机票退改签相关的领域知识输入给应用和 AI 模型，让 AI 结合这些规则与要求辅助决策。

增加 RAG 后的架构如下图所示：

有了 RAG 之后，我们的应用真正的成为了一个智能化的机票问题专家，就像一个经过公司业务培训的客服代表，既能人性化的与用户对话，又能根据规则引导用户行为。

使用 Function Calling 执行业务动作

AI 智能体可以帮助应用理解用户需求并作出决策，但是它没法代替应用完成决策的执行，决策的执行还是要由应用自己完成，这一点和传统应用并没有区别，不论是智能化的还是预先编排好的应用，都是要由应用本身去调用函数修改数据库记录实现数据持久化。

通过 Spring AI 框架，我们可以将模型的决策转换为对某个具体函数的调用，从而完成机票的最终改签或者退票动作，将用户数据写入数据库，这就是我们前面提到的 Function Calling 模式。

增加 Function Calling 后的架构图如下所示：

使用 Chat Memory 增加多轮对话能力

最后一点是关于多轮连续对话的支持，我们要记住一点，大模型是无状态的，它看到的只有当前这一轮对话的内容。因此如果要支持多轮对话效果，需要应用每次都要把之前的对话上下文保留下来，并与最新的问题一并作为 prompt 发送给模型。这时，我们可以利用 Spring AI Alibaba 提供的内置 Conversation Memory 支持，方便的维护对话上下文。

总结起来，我们在这个智能机票助手应用中用到了 Spring AI Alibaba 的核心如下能力：

基本模型对话能力，通过 Chat Model API 与阿里云通义模型交互
Prompt 管理能力
Chat Memory 聊天记忆，支持多轮对话
RAG、Vector Store，机票预定、改签、退票等相关规则

使用 ChatClient 完成编码

Spring AI Alibaba 不止提供了以上原子能力抽象，还提供了高阶 “智能体” API 抽象 `ChatClient`，让我们可以非常方便的使用流式 Fluent API 把多个组件组装起来，成为一个智能体 Agent。

对于智能机票助手与 AI 模型交互的所有能力（Prompt、RAG、Chat Memory、Function Calling 等），我们可以直接使用ChatClient 进行声明，最终实例化一个可以智能体代理对象。示例代码如下：

this.chatClient = modelBuilder

        .defaultSystem("""

            您是“Funnair”航空公司的客户聊天支持代理。请以友好、乐于助人且愉快的方式来回复。

             您正在通过在线聊天系统与客户互动。

             在提供有关预订或取消预订的信息之前，您必须始终

             从用户处获取以下信息：预订号、客户姓名。

             在询问用户之前，请检查消息历史记录以获取此信息。

             在更改预订之前，您必须确保条款允许这样做。

             如果更改需要收费，您必须在继续之前征得用户同意。

             使用提供的功能获取预订详细信息、更改预订和取消预订。

             如果需要，可以调用相应函数调用完成辅助动作。

             请讲中文。

             今天的日期是 {current_date}.

          """)

        .defaultAdvisors(

            new PromptChatMemoryAdvisor(chatMemory), // Chat Memory

            new VectorStoreChatMemoryAdvisor(vectorStore)),

            new QuestionAnswerAdvisor(vectorStore, SearchRequest.defaults()), // RAG

            new LoggingAdvisor())  

        .defaultFunctions("getBookingDetails", "changeBooking", "cancelBooking") // FUNCTION CALLING



        .build();