Mistral-Large-Instruct-2407 是一款在自然语言处理领域表现出色的语言模型，支持多种语言，尤其在中文处理任务中表现优异。本文详细介绍了 Mistral-Large-Instruct-2407 的部署方法、代码实例和常见问题。部署需要四张 A800 显卡，并通过 OpenAI 接口访问。尽管官方声称支持 128k tokens，实际最大支持 32k tokens。此外，vllm 当前不支持函数调用功能。CSG-Wukong-Chinese-Mistral-Large2-123B 为其改进版，在中文任务上表现更佳。