大模型开发 - 一文搞懂 Function Calling（函数调用）

函数调用

一、函数调用的本质

自然语言接口（NLI）：Natural Language Interface，自然语言连接一切。

自然语言接口（NLI）

NLI的定义自然语言接口（NLI）允许用户通过日常语言与软件和设备交互，无需特定命令或语法。
用户界面与API的NLI化为使多个软件和设备能协同工作，用户界面和API均需支持自然语言交互，简化复杂指令的执行。
实现NLI的两种思路强大入口AI：依赖高度智能的AI拆解和分发用户任务。广播式指令：AI将指令广播给所有软件，由它们自主决策是否及如何响应。

大模型的两大缺陷：大模型受限于计算资源和训练时间，导致信息滞后，并且其基于统计规律的回答缺乏真正的逻辑推理能力。

大模型的两大缺陷

问题一：没有最新信息：
- 大模型的训练需要大量的计算资源和时间，因此它们的知识库通常是在某个时间点之前的数据集上训练的。例如，GPT-3.5和GPT-4的知识截至2021年9月。这意味着它们无法提供此后的新信息或事件。为保持时效性，需定期重训模型，但成本高昂且耗时，导致大模型难以及时跟上信息更新。
问题二：没有真逻辑：
- 大模型生成的文本和回答主要基于训练数据的统计规律，而非严格的逻辑推理或形式化证明。因此，在处理复杂或需深入逻辑推理的问题时，它们可能产生看似合理但实际不准确的回答。此外，大模型通过预测给定上下文中的下一个词来生成文本，可能受训练数据中的偏见和错误影响，从而削弱逻辑严谨性。

二、函数调用的原理

函数调用（Function Calling）：函数调用使您能够更可靠地从模型中获取结构化数据。

函数调用（Function Calling）

第一步：创建通过调用外部 API 来回答问题的助手
- 定义函数，如get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')

def get current weather(location: str, unit: str = 'celsius', api key: str = None) -> dict:

""获取当前天气"

if not api key:

raise ValueError(API key is required to fetch weather data.")endpoint = f"https://api.weatherprovider.com/current?q=(location)&units=(unit)&appid=(api key)'response = requests.get(endpoint)

if response.status code == 200:

return response.json()

else:

raise ValueError(fFailed to fetch weather data: (response.status codey"

# 使用示例(需要填入实际的API密钥)api key ="YOUR WEATHER API KEYlocation : "London,Uk"weather data = get current weather(location, api key api key)print(weather data)

定义函数：get_current_weather

第二步：将自然语言转换为 API 调用
- 转换“谁是我的主要客户？”get_customers(min_revenue: int, created_before: string, limit: int)调用您的内部 API。

def parse question to api call(question: str) -> tuple:

""将问题解析为API调用的参数”“

# 这里应该有更复杂的NLP逻辑来解析问题

if"主要客户"in question:

return "get customers", [min revenue": 10000, "created before": "2023-01-01", "limit": 10)else:

raise ValueError("Unknown question format.")

def get customers(**kwargs):

""获取客户列表 (模拟API调用) “”

# 这里应该是实际的API调用逻辑

print(f"Fetching customers with parameters: (kwargs)")

# 返回模拟数据

return [("name": "Customer1" "revenue": 12000), ("name": "Customer2", "revenue": 15000)

# 使用示例

question ="谁是我的主要客户?“

api name, api params = parse question to api call(question)if api name == "get customers":

customers = get customers(* api params)

print(customers)

调用内部API函数：get_customers

第三步：从文本中提取结构化数据
- 定义一个提取数据的函数extract_data(name: string, birthday: string)

import re

def extract data(text: str) -> tuple:

"“从文本中提取姓名和生日"m”pattern = r"Name: (w+)s+Birthday: ( d(43-d(2)-d(2))match = re.search(pattern, text)if match:

name, birthday = match.groups()

return name, birthdayelse:

raise ValueError("Failed to extract data from text.")

# 使用示例

text = "Name: John Doe, Birthday: 1990-01-01"try:

extracted name, extracted birthday = extract data(text)print(f"Name: (extracted name  Birthday: (extracted birthday,")except ValueError as e:

print(e)

提取数据函数：extract_data

函数调用的机制：在大语言模型中，函数调用通常涉及将用户的自然语言请求转换为可执行的函数调用，并生成符合预定义函数签名的结构化输出，如JSON对象。

函数调用的机制

函数调用机制的主要步骤：

一、用户输入：用户通过自然语言向模型提出问题或请求。这些问题或请求可能需要调用外部函数来获取答案或执行某些操作。
二、模型解析：模型接收到用户输入后，会解析并理解输入内容。模型会根据其训练数据和算法判断是否需要调用函数，并确定要调用的函数及其参数。
三、生成函数调用：如果模型确定需要调用函数，它会生成一个包含函数调用所需参数的结构化输出。这通常是一个JSON对象，其中包含函数名、参数列表等信息。这个JSON对象是以字符串形式存在的，需要在实际调用函数之前进行解析。
四、函数调用执行：在您的代码中，您需要解析这个字符串化的JSON对象，将其转换为有效的数据结构（如字典或对象），并使用这些参数调用相应的函数。这个过程是在您的代码环境中完成的，而不是在模型内部。模型只是提供了调用函数所需的参数和信息。
五、处理函数结果：函数调用执行完成后，您需要将函数的结果返回给模型。这通常通过将结果附加到模型中再次调用模型来实现。模型会接收并处理这些结果，然后生成一个自然语言回复给用户，总结或解释函数调用的结果。

三、函数调用的想象空间

函数调用的想象空间

用户对着微信说：给我每个女性好友发一条情真意切的拜年信息，还要带点儿小幽默。

步骤一：了解微信API或第三方库：
- 研究微信官方文档，了解是否有提供发送消息的API（通常情况下，个人用户无法直接访问这样的API）。
- 查找是否有可用的第三方库或工具，这些库或工具可能提供了访问微信某些功能的接口（但使用这些工具存在账号被封禁的风险）。
步骤二：登录微信：
- 使用选定的库或工具提供的登录方法登录微信账号。这通常涉及扫描二维码或使用其他认证机制。
步骤三：获取好友列表：
- 一旦登录，使用相关API或库函数来获取微信好友列表。
步骤四：筛选女性好友：
- 遍历好友列表，根据好友的性别信息筛选出女性好友。性别信息通常可以在好友列表的数据中获取。
步骤五：编写拜年信息：
- 编写一条或多条情真意切且带有小幽默的拜年信息模板。
步骤六：发送消息：
- 遍历筛选出的女性好友列表，并使用API或库函数向每个女性好友发送拜年信息。确保遵守发送频率限制，以避免被微信检测为滥用行为。
步骤七：退出登录：
- 发送完所有消息后，使用API或库函数安全地退出微信登录。

import itchat # itchat是一个开源的微信个人号接口，但注意它并不总是可用，且可能违反微信的服务条款

def send new year greeting _to female friends():# 登录微信，这通常需要手机扫描二维码确认登录itchat.auto login()

# 获取所有好友列表

friends = itchat.get friends(update=True)

# 历好友列表，筛选出女性好友并发送消息for friend in friends:

if friend[Sex] == 2: # 假设在itchat中，性别用1表示男性，2表示女性message =f"亲爱的ffriend[NickName》，新年到啦! 祝你越来越美丽，笑口常开，好运连连! 别#发送消息给好友，这里使用send msg函数作为示例，实际中itchat可能有不同的函数来发送消息# 注意: itchat库已经停止维护，并且微信网页版接口经常变动，所以下面的代码可能无法工作。itchat.send msg(message, toUserName friendUserName'7)

# 登出微信

itchat.logout()

# 调用函数发送拜年信息(注意:实际执行这段代码可能会违反微信的服务条款，导致账号被封禁)# send new year greeting to female friends()

微信给女性朋友拜年

用户对着富途牛牛说：人工智能相关股票，市盈率最低的是哪几个？最近交易量如何？都有哪些机构持有？

步骤一：准备API接口和认证信息
- 确定用于获取股票信息的API接口URL。
- 获取并准备好API密钥或其他认证信息。
步骤二：定义函数以获取市盈率最低的人工智能股票
- 编写一个函数，该函数接受API接口URL和API密钥作为参数。
- 在函数内部，构造请求参数，指定股票分类为人工智能，按市盈率升序排列，并限制返回结果的数量。
- 发送HTTP GET请求到API接口，并传入构造好的请求参数和API密钥。
- 检查响应的状态码，确保请求成功。
- 解析响应内容，提取市盈率最低的股票列表信息。
- 返回市盈率最低的股票列表。

import requests

def get lowest pe ai stocks(api endpoint, api key):

0

获取人工智能相关股票中市盈率最低的几个股票信息

param api endpoint: APIBendpoint URL

param api key: 用户的API密销

:return: 市盈率最低的股票列表及其相关信息00

# 构造请求参数，这里假设API支持按市盈率排序和按人工智能相关筛选股票params = [

category':"ai，# 假设 ai代表人工智能相关的股票分类sort':'pe ratio，# 按市盈率排序order':"asc，# 升序排列，获取市盈率最低的股票"limit': 5 # 获取前5个结果，这个数字可以根据需要调整

# 发送HTTP请求到API

response = requestsget(api endpoint, params=params, headers=(Authorization': api key)

# 检查响应状态码，如果不是200则抛出异常if response.status code != 200:

raise Exception(f"Failed to fetch data from APl: fresponse.status code!")

#解析响应内容，这里假设API返回的是JSON格式的数据data = response,json()

# 提取股票信息，并返回结果

return data 'stocks'

步骤三：定义函数以获取股票的最近交易量
- 编写一个函数，该函数接受API接口URL、API密钥和股票代码作为参数。
- 构造特定于股票代码的API请求URL。
- 发送HTTP GET请求到构造好的URL，并传入API密钥。
- 检查响应的状态码，确保请求成功。
- 解析响应内容，提取交易量信息。
- 返回交易量信息。

def get recent trading_volume(api endpoint, api key, stock code):

获取指定股票的最近交易量信息，

:param api endpoint: API的endpoint URL，可能需要根据股票代码构造具体的URLparam api_key: 用户的API密钥

:param stock code: 股票代码

:return: 最近交易量信息

80

# 发送HTTP请求到API，获取指定股票的交易量信息response = requests.get(f"api endpoint;/stock code)/trading_volume", headers=('Authorization' i

#检查响应状态码，如果不是200则抛出异常if responsestatus code != 200:

raise Exception(f"Failed to fetch trading volume for stock stock code): fresponse.status code)")

# 解析响应内容，并返回交易量信息

return response,json()['trading volume'

步骤四：定义函数以获取股票的机构持有者信息
- 编写一个函数，该函数接受API接口URL、API密钥和股票代码作为参数。
- 构造特定于股票代码的API请求URL。
- 发送HTTP GET请求到构造好的URL，并传入API密钥。
- 检查响应的状态码，确保请求成功。
- 解析响应内容，提取机构持有者列表及其持股份额等信息。
- 返回机构持有者信息。

def get institutional holders(api endpoint, api key, stock code):

000

获取指定股票的机构持有者信息。

:param api endpoint: API的endpoint URL，可能需要根据股票代码构造具体的URL:param api_key: 用户的API密钥

:param stock code: 股票代码

:return: 机构持有者列表及其持股份额等信息000

# 发送HTTP请求到API，获取指定股票的机构持有者信息response = requests.get(f fapi endpoint)/stock code)/holders/institutional", headers='Authorizatic

#检查响应状态码，如果不是200则抛出异常

if response.status code != 200:

raise Exception(f"Failed to fetch institutional holders for stock fstock codek: fresponse.status coc

# 解析响应内容，并返回机构持有者信息

return response.json()[institutional holders”]

步骤五：调用函数并处理结果
- 调用步骤3中定义的函数，获取该股票的最近交易量信息。
- 调用步骤4中定义的函数，获取该股票的机构持有者信息。
- 调用步骤2中定义的函数，获取市盈率最低的人工智能股票列表。
- 遍历股票列表，对于每只股票：
- 打印或存储获取到的信息，包括股票代码、市盈率、最近交易量和机构持有者列表。

# 假设的API密钥和endpoint URL，实际使用时需要督换为真实的值api key = "your api key"api endpoint = "https://api.example.com/stocks'

# 获取市盈率最低的人工智能相关股票列表lowest pe stocks = get lowest pe ai stocks(api endpoint, api key)for stock in lowest pe stocks:

stock code = stock['code'l

pe ratio = stock['pe ratio']

print(f"Stock Code: (stock code], PE Ratio: {pe ratio]"

#获取每个股票的最近交易量信息

try:

trading volume = get recent trading volume(api endpoint, api key, stock codeprint(f"Recent Trading Volume: (trading_volume)")except Exception as e:

print(f"Error fetching trading volume: (ej")

# 获取每个股票的机构持有者信息try:

institutional holders = get institutional holders(api endpoint, api key, stock code)print("Institutional Holders.")

for holder in institutional holders:

print(f holder['name:  holder['share percentage])%"except Exception as e:

print(f"Error fetching institutional holders: (ey")

本文章转载微信公众号@架构师带你玩转AI