行行查
行业研究数据库
人工智能行业研究:AI大模型训练三阶段对比
- 人工智能
AI大模型的训练过程可分为预训练、中训练和后训练三个阶段,各阶段在目标、技术路径、数据需求、算力消耗及未来发展趋势上存在显著差异。在预训练阶段,核心目标是构建通用语言与世界知识的基础能力,主要采用Transformer架构、语言建模和并行训练技术,训练周期长(数周至数月),频率较低,通常为每数月或每年一次集中式训练,依赖大规模公开数据集,如书籍、百科和网页资料,对算力要求极高,需大型GPU集群支持分布式高并发计算,未来仍由头部厂商主导持续投入。进入中训练阶段,重点转向提升模型在特定领域的专业能力和任务适应性,采用Full training、Continual training、PEFT以及上下文扩展等技术,训练时长缩短至数天至数周,频率较高,聚焦于领域内数据的持续迭代优化,数据来源更专业化且结构化程度高,对算力的需求处于中等到大规模水平,主要用于智能体、上下文理解及垂直领域应用的持续训练。后训练阶段则关注模型的行为能力,使其更贴近人类偏好与交互风格,常用SFT(监督微调)、RLHF(基于人类反馈的强化学习)和DPO(直接偏好优化)等技术,训练时间短(数小时至数天),频率适中,强调与人类指令偏好的对齐,依赖精细
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










