行行查
行业研究数据库
人工智能行业研究:Emu3.5训练流程示意图
- 人工智能
Emu3.5模型的训练流程分为四个主要阶段:预训练(Pre-training)、监督微调(Supervised Fine-tuning)、强化学习(Reinforcement Learning)以及离散扩散适配(Discrete Diffusion Adaptation)。在预训练阶段,模型首先基于10万亿token的原始数据进行训练,这些数据包括视频交错数据、图文对数据和纯文本数据。经过过滤与标注后,形成3万亿token的高质量预训练数据集,用于进一步训练初始模型。随后进入监督微调阶段,使用包含1500亿token的SFT数据集(含真实标注数据与合成数据),对模型进行指令遵循能力的优化,生成SFT模型。接下来是强化学习阶段,通过10万个RL提示(包括人工提示和筛选后的提示)结合奖励系统,采用群体相对策略优化方法对模型进行迭代优化,得到RL模型。最后,在离散扩散适配阶段,利用130亿token的适配数据集,通过自蒸馏技术生成新的数据,并将其用于训练DiDA模型,实现并行生成能力的提升。整个流程体现了从大规模通用知识学习到精细化任务优化,再到生成能力增强的完整训练路径。
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










