本文介绍了在2台8 * H100 80G上部署Deepseek-r1 671B后的问题及优化措施。尽管VLLM V1引擎强大，但因不支持Deepseek，作者退回V0版本，并发现处理长上下文时出现降速问题。通过转向SGLang引擎，解决了降速问题，提升了生成速度。在压测中，发现TTFT和吞吐量在不同并发下的变化，指出了参数优化的潜在方向。未来计划继续优化系统性能，同时欢迎技术交流与反馈。