行行查
行业研究数据库
人工智能行业研究:DeepSeek R1 模型训练过程
- 人工智能
- AIGC
纯强化学习后出来的DeepSeek R1 zero存在可读性差以及语言混乱等问题,主要因其全通过奖惩信号来优化其行为,没有任何人类示范的"标准答案"作为参考,因此DeepSeek团队使用冷启动+多阶段训练推出DeepSeek R1模型。具体训练步骤:1)高质量冷启动数据:与DeepSeek R1 zero同理,以DeepSeek v3 base作为强化学习的起点,但为了克服可读性差的问题,选择可读性更强的cot(长思维链)数据作为冷启动数据,包括以可读格式收集DeepSeek-R1 Zero输出,并通过人工注释者进行后处理来提炼结果。2)面向推理的强化学习,这与DeepSeek R1 zero的强化学习过程相同,但是在RL期间引入语言一致性奖励,虽然语言对齐可能会造成一定的性能损失,但是提高了可读性。3)抑制采样和监督微调,拒绝采用指模型训练过程中生成的一些不符合特定标准或质量要求的样本数据进行舍弃,同时选取了v3的SFT数据集一部分作为微调数据。4)全场景强化学习,属于一个二级强化学习阶段,目的是与人类偏好保持一致。
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 | ||
| 人工智能行业周观点:Anthropic下周正式挂牌,OpenAI推出ChatGPT钱包与商户中心 | 2026-11-16 | 50 | ||
| 人工智能行业半月报(2026年11月第2期):Anthropic即将上市,黄仁勋辞去CEO等职务 | 2026-11-18 | 20 | ||
| 专题研究报告:人工智能在资本市场的应用现状与演进方向 | 2026-11-19 | 31 |

行研数据库
创投数据库
证券数据库
商业数据库










