基于 MiniMax-abab6.5s 的 RAG 系统

Function Calling 介绍

Function Calling 是一种将深度学习模型（如 GPT-4）与外部工具和系统连接的方法。它能够极大地增强 AI 助手的功能，使其在应用程序与模型之间实现深度集成。虽然 OpenAI 的模型对 Function Calling 的支持较好，但在国产大模型中并不普遍。为了改善这一状况，一位开发者在 GitHub 上分享了一个通用方法，可以在 Semantic Kernel 中调用本地函数。

通过这种方法，可以在国产大模型中实现自动函数调用，进一步增强了模型的实用性。该方法的核心是通过提示工程，结合 Semantic Kernel 的本地函数调用原理，实现兼容性。

通用 Function Calling 方法

在应用 Function Calling 的过程中，我们可以观察到其在增强模型能力方面的显著效果。例如，使用 Qwen2-7B-Instruct 模型进行测试时，我们可以创建一个 Kernel 来加载必要的插件，然后通过文本转换和对话历史的加入，逐步实现函数调用。

// 创建 Kernel
var kernel = new Kernel();
// 导入插件
kernel.ImportPlugin("MyPlugin");

在这个过程中，我们首先将插件转换为文本格式，并将其嵌入到 Prompt 中。然后，我们在对话历史中添加示例和指令，指导 LLM 选择应调用的函数。最后，通过验证和调用插件中的函数，完成任务。

实验验证与结果

这种方法经过多次测试，证明在多个大型语言模型（LLM）中都可以使用。例如，硅基流动、讯飞星火、零一万物等平台的多种模型都支持这种方法。通过测试，我们可以看到 Function Calling 的有效性和各个模型的兼容性。

平台	可用模型
硅基流动	Llama-3.1-405/70/8B 等
讯飞星火	Spark Lite 等
零一万物	yi-large、yi-medium 等

扣子上线模型管理和智能体评测

腾讯云最近推出了模型管理和智能体评测模块，通过这些模块，用户可以选择不同种类的模型并进行性能监控和微调。模型管理支持文本模型、多模态模型等，用户可以根据需求选择适合的模型类型和功能。

模型选择

模型微调

通过微调，用户可以基于基座大模型构建自己的微调数据集，训练出适合特定领域的专业大模型。这种更新对于构建垂直智能体非常有意义。

智能体效果评测

腾讯云的智能体评测通过构建领域评测数据集和设置不同的评估规则，帮助用户验证智能体的效果。用户可以选择评测对象，准备评测数据集，并进行多维度的评测。

智能体评测

FAQ

问：什么是 Function Calling？
- 答：Function Calling 是一种将深度学习模型与外部工具连接的方法，增强模型功能。
问：如何在国产大模型中实现 Function Calling？
- 答：可以通过 GitHub 上分享的通用方法实现，该方法结合了提示工程与 Semantic Kernel 的本地函数调用原理。
问：腾讯云的模型管理模块有哪些功能？
- 答：模型管理模块支持不同种类的模型选型、性能监控、微调等功能，用户可以根据需求进行选择和调整。