SiliconFlow 使用方法：AI时代的核心工具

什么是 SiliconFlow？

SiliconFlow 是一家专注于 AI 基础设施的公司，其目标是通过技术创新降低大模型的部署和推理成本，加速人工通用智能（AGI）的普及。作为一家技术驱动型企业，SiliconFlow 提供多种服务，如大模型云服务平台、推理引擎、图像及视频生成加速库等，帮助企业和个人开发者更高效地应用大模型技术。

SiliconFlow 提供了多种大模型的 API 接口，并支持多模态生成任务（如文本、图像、语音、视频）。用户可以通过注册获得一定的免费额度，轻松体验大模型的高效性能。

SiliconFlow 的核心功能与服务

SiliconCloud 大模型云服务平台

SiliconCloud 是一站式的生成式 AI 服务平台，支持文本、图像、语音和视频生成等多模态任务。其特点包括集成了多种主流开源大模型（如 DeepSeek、Qwen2.5、Llama-3.X、Stable Diffusion 等），并提供低成本的 API 调用服务。

功能亮点：

低成本调用：部分小型模型（如9B以下）永久免费。
推理加速引擎：内置 SiliconLLM 和 OneDiff 引擎，显著提升响应速度。
多模态支持：涵盖文本生成、图像生成、语音生成和视频生成。

SiliconLLM 推理引擎

SiliconLLM 是一款专为大语言模型优化的推理引擎。它可以支持国内外主流芯片部署，并在复杂场景下表现优异。

特性说明：

超长上下文支持：适用于需要处理大量上下文的场景。
推理速度提升：最高提升10倍。
低延迟：在实时性要求较高的任务中表现出色。

OneDiff 图像/视频生成加速库

OneDiff 是一款高性能的文生图与视频加速库，支持如 Stable Diffusion 等模型的性能提升。

优势：

性能优化：性能提升最高可达3倍。
快速生成：1秒内即可生成高质量图像。

SiliconBrain 一站式 AI 应用开发平台

SiliconBrain 是面向企业用户的私有化部署方案，支持模型微调与托管。

功能说明：

模型微调：支持用户上传数据，进行定制化训练。
DevOps 原理：实现持续集成与部署。
降低维护成本：减少企业开发 AI 应用的技术门槛。

SiliconFlow 的使用方式

注册与登录

用户可以通过以下链接完成注册：SiliconFlow 注册页面。注册后，用户将获得一定额度的免费 Token，用于体验平台的各种功能。

注册步骤：

点击注册链接，填写基本信息。
完成实名认证。
登录后进入“模型广场”。

模型的调用方式

用户可以在“模型广场”选择合适的模型，并通过 API 调用进行集成。

使用示例代码：

以下是一个使用 Python 调用 SiliconFlow API 的示例代码：

from langchain.llms.base import LLM
from langchain_community.llms.utils import enforce_stop_tokens
import requests
import os

API_KEY = os.getenv("CUSTOM_API_KEY", "")
BASE_URL = "https://api.siliconflow.cn/v1/chat/completions"

class SiliconFlow(LLM):
    def __init__(self):
        super().__init__()

    @property
    def _llm_type(self) -> str:
        return "siliconflow"

    def siliconflow_completions(self, model: str, prompt: str) -> str:
        payload = {
            "model": model,
            "messages": [{"role": "user", "content": prompt}],
            "stream": False
        }
        headers = {
            "accept": "application/json",
            "content-type": "application/json",
            "authorization": f"Bearer {API_KEY}"
        }

        response = requests.post(BASE_URL, json=payload, headers=headers)
        response.raise_for_status()
        return response.json()["choices"][0]["message"]["content"]

    def _call(self, prompt: str, stop: list = None, model: str = "default-model") -> str:
        response = self.siliconflow_completions(model=model, prompt=prompt)
        if stop is not None:
            response = enforce_stop_tokens(response, stop)
        return response

if __name__ == "__main__":
    llm = SiliconFlow()
    response = llm._call(prompt="", model="")
    print(response)