使用 deepseek-ai/DeepSeek-R1 的说明:配合库、推理提供商、Notebook 与本地应用。请通过以下链接开始使用。
如何配合 Transformers 使用 deepseek-ai/DeepSeek-R1:
如何配合 vLLM 使用 deepseek-ai/DeepSeek-R1:
从 pip 安装并服务模型
使用 Docker
如何配合 SGLang 使用 deepseek-ai/DeepSeek-R1:
从 pip 安装并服务模型
使用 Docker 镜像
如何配合 Docker Model Runner 使用 deepseek-ai/DeepSeek-R1:
DeepSeek-R1
论文链接👁️
1. 引言
我们推出第一代推理模型 DeepSeek-R1-Zero 和 DeepSeek-R1。
DeepSeek-R1-Zero 是一个通过大规模强化学习(RL)训练的模型,没有把监督微调(SFT)作为前置步骤,在推理方面表现出色。
借助 RL,DeepSeek-R1-Zero 自然涌现出众多强大而有趣的推理行为。
然而,DeepSeek-R1-Zero 也面临无尽重复、可读性差和语言混杂等挑战。为解决这些问题并进一步提升推理性能,
我们推出 DeepSeek-R1,它在 RL 之前引入了冷启动数据。
DeepSeek-R1 在数学、代码和推理任务上的表现可与 OpenAI-o1 相媲美。
为支持研究社区,我们开源了 DeepSeek-R1-Zero、DeepSeek-R1,以及基于 Llama 和 Qwen 从 DeepSeek-R1 蒸馏出的六个稠密模型。DeepSeek-R1-Distill-Qwen-32B 在多项基准上超越 OpenAI-o1-mini,为稠密模型创下新的最先进结果。
注意:在本地运行 DeepSeek-R1 系列模型之前,建议先阅读使用建议部分。

2. 模型概要
后训练:在基础模型上进行大规模强化学习
我们直接将强化学习(RL)应用于基础模型,不依赖监督微调(SFT)作为前置步骤。这一方法让模型能够探索思维链(CoT)以解决复杂问题,从而发展出 DeepSeek-R1-Zero。DeepSeek-R1-Zero 展现出自我验证、反思和生成长思维链等能力,是研究社区的一个重要里程碑。值得注意的是,这是首个公开研究,验证了大语言模型的推理能力可以纯粹通过 RL 激励出来,而无需 SFT。这一突破为该领域的未来发展铺平了道路。
我们介绍开发 DeepSeek-R1 的流程。该流程包含两个 RL 阶段,旨在发现更优的推理模式并与人类偏好对齐,以及两个 SFT 阶段,作为模型推理与非推理能力的种子。
我们相信该流程将通过打造更好的模型使行业受益。
蒸馏:更小的模型也可以很强大
3. 模型下载
DeepSeek-R1 模型
DeepSeek-R1-Zero 与 DeepSeek-R1 基于 DeepSeek-V3-Base 训练。
有关模型架构的更多细节,请参阅 DeepSeek-V3 仓库。
DeepSeek-R1-Distill 模型
DeepSeek-R1-Distill 模型基于开源模型微调,使用的是 DeepSeek-R1 生成的样本。
我们对其配置和分词器做了轻微调整。运行这些模型时请使用我们的设置。
4. 评估结果
DeepSeek-R1 评估
对我们所有模型,最大生成长度设为 32,768 个 token。对于需要采样的基准,我们使用温度 $0.6$、top-p 值 $0.95$,并对每个查询生成 64 个回答来估计 pass@1。
| 类别 |
基准(指标) |
Claude-3.5-Sonnet-1022 |
GPT-4o 0513 |
DeepSeek V3 |
OpenAI o1-mini |
OpenAI o1-1217 |
DeepSeek R1 |
|
架构 |
- |
- |
MoE |
- |
- |
MoE |
|
激活参数量 |
- |
- |
37B |
- |
- |
37B |
|
总参数量 |
- |
- |
671B |
- |
- |
671B |
| 英文 |
MMLU (Pass@1) |
88.3 |
87.2 |
88.5 |
85.2 |
91.8 |
90.8 |
|
MMLU-Redux (EM) |
88.9 |
88.0 |
89.1 |
86.7 |
- |
92.9 |
|
MMLU-Pro (EM) |
78.0 |
72.6 |
75.9 |
80.3 |
- |
84.0 |
|
DROP (3-shot F1) |
88.3 |
83.7 |
91.6 |
83.9 |
90.2 |
92.2 |
|
IF-Eval (Prompt Strict) |
86.5 |
84.3 |
86.1 |
84.8 |
- |
83.3 |
|
GPQA-Diamond (Pass@1) |
65.0 |
49.9 |
59.1 |
60.0 |
75.7 |
71.5 |
|
SimpleQA (Correct) |
28.4 |
38.2 |
24.9 |
7.0 |
47.0 |
30.1 |
|
FRAMES (Acc.) |
72.5 |
80.5 |
73.3 |
76.9 |
- |
82.5 |
|
AlpacaEval2.0 (LC-winrate) |
52.0 |
51.1 |
70.0 |
57.8 |
- |
87.6 |
|
ArenaHard (GPT-4-1106) |
85.2 |
80.4 |
85.5 |
92.0 |
- |
92.3 |
| 代码 |
LiveCodeBench (Pass@1-COT) |
33.8 |
34.2 |
- |
53.8 |
63.4 |
65.9 |
|
Codeforces (百分位) |
20.3 |
23.6 |
58.7 |
93.4 |
96.6 |
96.3 |
|
Codeforces (评分) |
717 |
759 |
1134 |
1820 |
2061 |
2029 |
|
SWE Verified (已解决) |
50.8 |
38.8 |
42.0 |
41.6 |
48.9 |
49.2 |
|
Aider-Polyglot (Acc.) |
45.3 |
16.0 |
49.6 |
32.9 |
61.7 |
53.3 |
| 数学 |
AIME 2024 (Pass@1) |
16.0 |
9.3 |
39.2 |
63.6 |
79.2 |
79.8 |
|
MATH-500 (Pass@1) |
78.3 |
74.6 |
90.2 |
90.0 |
96.4 |
97.3 |
|
CNMO 2024 (Pass@1) |
13.1 |
10.8 |
43.2 |
67.6 |
- |
78.8 |
| 中文 |
CLUEWSC (EM) |
85.4 |
87.9 |
90.9 |
89.9 |
- |
92.8 |
|
C-Eval (EM) |
76.7 |
76.0 |
86.5 |
68.9 |
- |
91.8 |
|
C-SimpleQA (Correct) |
55.4 |
58.7 |
68.0 |
40.3 |
- |
63.7 |
蒸馏模型评估
| 模型 |
AIME 2024 pass@1 |
AIME 2024 cons@64 |
MATH-500 pass@1 |
GPQA Diamond pass@1 |
LiveCodeBench pass@1 |
CodeForces 评分 |
| GPT-4o-0513 |
9.3 |
13.4 |
74.6 |
49.9 |
32.9 |
759 |
| Claude-3.5-Sonnet-1022 |
16.0 |
26.7 |
78.3 |
65.0 |
38.9 |
717 |
| o1-mini |
63.6 |
80.0 |
90.0 |
60.0 |
53.8 |
1820 |
| QwQ-32B-Preview |
44.0 |
60.0 |
90.6 |
54.5 |
41.9 |
1316 |
| DeepSeek-R1-Distill-Qwen-1.5B |
28.9 |
52.7 |
83.9 |
33.8 |
16.9 |
954 |
| DeepSeek-R1-Distill-Qwen-7B |
55.5 |
83.3 |
92.8 |
49.1 |
37.6 |
1189 |
| DeepSeek-R1-Distill-Qwen-14B |
69.7 |
80.0 |
93.9 |
59.1 |
53.1 |
1481 |
| DeepSeek-R1-Distill-Qwen-32B |
72.6 |
83.3 |
94.3 |
62.1 |
57.2 |
1691 |
| DeepSeek-R1-Distill-Llama-8B |
50.4 |
80.0 |
89.1 |
49.0 |
39.6 |
1205 |
| DeepSeek-R1-Distill-Llama-70B |
70.0 |
86.7 |
94.5 |
65.2 |
57.5 |
1633 |
5. 聊天网站与 API 平台
你可以在 DeepSeek 官网 chat.deepseek.com 与 DeepSeek-R1 对话,并打开“DeepThink”按钮。
我们还在 DeepSeek 平台提供 OpenAI 兼容 API:platform.deepseek.com
6. 如何在本地运行
DeepSeek-R1 模型
有关本地运行 DeepSeek-R1 的更多信息,请访问 DeepSeek-V3 仓库。
注意:Hugging Face 的 Transformers 尚未直接支持。