大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一

“ AI Agent就是大模型通过外部接口构建的手脚健全的智能体”

怎么让大模型像真正的人类一样能够独立思考，使用外部工具；这是很多人都在考虑的问题，而这就是AI Agent(AI 代理)，一个类人的智能体。

但怎么实现AI 函数调用(function calling)。

01

什么是函数调用，为什么选择函数调用？

大模型作为人工智能最火的技术，从功能上来讲它更像一个“大脑”，它没有“手和脚”，因此它的能力范围很有限。

而且因为大模型无法获取实时信息，所以从这一点来说它和人的差距有点大。

但能不能让它具备人的能力呢？也就是通过外部工具获取实时信息，或者是它能力圈之外的事情。

举个例子，你问大模型今天的天气怎么样，温湿度是多少？这样的问题，即使是人也无法给出准确的回答，但可以通过天气APP获取到这些信息。

因此，只需要让大模型具有访问查询天气情况接口的能力，那么这个问题就可以被解决了，而类似于查询天气的这种接口，统一称为工具(tool)。

但大模型本身又不具备调用网络的能力，那么怎么才能实现这个功能呢？

这时函数调用的作用就体现出来了，所谓的函数就是一个能实现特定功能的代码段，它们有设定的输入参数和返回值，这样就可以使用函数调用各种工具实现大模型无法实现的功能。

之所以选择函数调用，原因就是因为函数调用比较简单，大模型只需要返回几个参数即可实现函数调用。

02

function call的实现过程

在正常的开发流程中，不论是函数调用还是API调用，都是开发者进行传参，然后获得返回值。

没了解过function call的人可能会认为，函数调用就是大模型调用python等语言的解释器，执行目标代码并获得结果。

事实上，在function call中，大模型并不负责函数的执行，大模型的作用是根据用户的问题，理解用户的需求，然后根据用户需求确定具体的回调函数以及函数所需要的参数。

openAI官方文档明确指出，大模型不会真正执行函数调用，而是由应用开发者根据大模型的返回进行具体的函数调用。

因此，在实现function call的过程中，应用开发者需要预先设定一个工具集，并负责工具集的实现。

# 定义工具集

tools = [

        {

            "type": "function",

            "function": {

                "name": "get_current_weather",

                "description": "Get the current weather in a given location",

                "parameters": {

                    "type": "object",

                    "properties": {

                        "location": {

                            "type": "string",

                            "description": "The city and state, e.g. San Francisco, CA",

                        },

                        "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},

                    },

                    "required": ["location"],

                },

            },

        }

    ]



# 工具集函数d 实现

    def get_current_weather(location, unit="fahrenheit"):

    """Get the current weather in a given location"""

    if "tokyo" in location.lower():

        return json.dumps({"location": "Tokyo", "temperature": "10", "unit": unit})

    elif "san francisco" in location.lower():

        return json.dumps({"location": "San Francisco", "temperature": "72", "unit": unit})

    elif "paris" in location.lower():

        return json.dumps({"location": "Paris", "temperature": "22", "unit": unit})

    else:

        return json.dumps({"location": location, "temperature": "unknown"})

用户在调用大模型时，需要把当前工具集传给大模型。

# 在参数tools中传入工具集

client = openAI(api_key="你的openai密钥")

response = client.chat.completions.create(

    model='gpt-4o',

    messages=messages,

    tools= tools,

    tool_choice="auto"

)

这时，大模型就可以通过理解用户的输入，然后返回所需工具的名称和参数，然后就可以根据名称和参数调用具体的工具，如天气查询接口。

大模型函数调用的流程如下图所示，从下图可以看出，大模型使用工具需要两次输入。

# 大模型返回的需要调用的函数名称和参数

{"role": "assistant", "content": "", "tool_calls": [{"function": {"name": "get_current_weather", "arguments": "{properties: {location: {description: 北京市, type: string}}}"}, "id": "", "type": "function"}]}

第一次输入是用户提问，大模型根据提问内容解析出需要调用的函数；第二次是把函数的执行结果传入到模型中；最后，模型根据函数的执行结果返回给用户。

用户向应用程序发出提示词（prompt）
应用程序会传递用户提供的提示词和函数声明（Function Declaration(s)），即对模型所需工具的描述信息
根据函数声明，模型会给出工具选取建议和相关的请求参数。注意，模型仅会输出建议的工具和请求参数，并不会实际调用函数
& 5. 应用程序根据模型响应调用相关函数
& 7. 将函数的响应内容再次输入模型，生成人类可读的内容
应用程序将最终响应返回给用户，然后再次回到第 1 步，如此循环往复

文章转自微信公众号@AI探索时代

大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一

01

02

最新文章