所有文章 > AI驱动 > DeepSeek API 升级,支持续写、FIM、Function Calling、JSON Output
DeepSeek API 升级,支持续写、FIM、Function Calling、JSON Output

DeepSeek API 升级,支持续写、FIM、Function Calling、JSON Output

DeepSeek API 更新

今天,DeepSeek API 迎来更新,装备了新的接口功能,来释放模型的更多潜力:

  • 更新接口 /chat/completionsJSON OutputFunction Calling对话前缀续写(Beta)8K 最长输出(Beta)新增接口 /completionsFIM 补全(Beta)所有新功能,均可使用 deepseek-chat 和 deepseek-coder 模型调用。

image

更新接口 /chat/completions1.JSON Output,增强内容格式

DeepSeek API 新增 JSON Output 功能,兼容 OpenAI API,能够强制模型输出 JSON 格式的字符串。在进行数据处理等任务时,该功能可以让模型按预定格式返回 JSON,方便后续对模型输出内容进行解析,提高程序流程的自动化能力。要使用 JSON Output 功能,需要:

  • 设置response_format参数为

用户需要在提示词中,指导模型输出 JSON 的格式,来确保输出格式符合预期合理设置,防止 JSON 字符串被中途截断。

以下为一个 JSON Output 功能的使用样例。在这个样例中,用户给出一段文本,模型对文本中的问题 & 答案进行格式化输出。

image

Function Calling,连接物理世界

DeepSeek API 新增 Function Calling 功能,兼容 OpenAI API,通过调用外部工具,来增强模型与物理世界交互的能力。Function Calling 功能支持传入多个 Function(最多 128 个),支持并行 Function Calling。下图展示了将deepseek-coder整合到开源大模型前端 LobeChat 的效果。在这个例子中,我们开启了“网站爬虫”插件,来实现对网站的爬取和总结。

image

下图展示了使用 Function Calling 功能的交互过程:

image

对话前缀续写(Beta),更灵活的输出控制

对话前缀续写沿用了对话补全的 API 格式,允许用户指定最后一条 assistant 消息的前缀,来让模型按照该前缀进行补全。该功能也可用于输出长度达到 max_tokens 被截断后,将被截断的消息进行拼接,重新发送请求对被截断内容进行续写。要使用对话前缀续写功能,需要:

  • 设置base_urlhttps://api.deepseek.com/beta来开启 Beta 功能
  • 确保 messages 列表里最后一条消息的 role 为 assistant,并设置最后一条消息的 prefix 参数为 True,如:
#你可能也喜欢这些API文章!