本文全面汇总了大模型推理框架的特点与选型策略。介绍了高性能推理框架 vLLM（PagedAttention 技术，支持超长序列）、LMDeploy（异步流水线并行，低延迟）、TGI（企业级稳定性，多 GPU 扩展）、SGLang（架构创新，混合精度计算）和 DeepSeek AI Open Infra Index（底层优化套件，协同生态）。同时对比了本地部署与轻量化框架，如 Ollama、Llama.cpp、LocalAI 和 KTransformers。还分析了灵活部署框架 XInference、OpenLLM、Hugging Face Transformers 和 LiteLLM，以及开发者友好型框架 FastAPI、Dify 和 Coze。文章最后提供了选型决策树、性能基准测试数据和行业应用参考，建议根据吞吐量需求、硬件预算、合规要求和技术栈适配性进行选型。