DeepSeekMath是一个7B参数的模型，展示了接近GPT-4的数学推理能力，在MATH基准测试中超越了多个30B至70B参数的开源模型。它使用了从Common Crawl提取的120B高质量数学网页数据，并结合了代码领域模型DeepSeek-Coder-v1.5进行初始化训练，以及GRPO强化学习算法来提升对齐效果。实验结果显示DeepSeekMath在中英数学基准测试中表现出色，论文和模型已开源。