行行查
行业研究数据库
人工智能行业研究:MTP示意:在每个深度上保留每个token预测的完整因果链
- 人工智能
- 电子元件
MTP(Multi-Step Token Prediction)是一种用于提升语言模型预测能力的架构设计,其核心思想是在不同深度上保留每个token预测的完整因果链,从而增强模型对序列上下文的理解和生成能力。该架构由主模型(Main Model)和多个MTP模块组成,主模型负责标准的下一个token预测任务,而MTP模块则在更深层次上进行多步token预测。
具体而言,主模型接收输入token序列(如t₁至t₄),通过嵌入层、多个Transformer块以及输出头完成对目标token(如t₂至t₅)的预测,并使用交叉熵损失函数计算主任务损失(L_Main)。与此同时,MTP模块1和MTP模块2分别基于前序token(如t₂至t₅)进行下一步或更远步骤的token预测(如t₃至t₆或t₄至t₇),每个MTP模块内部包含共享的嵌入层、RMSNorm归一化层、线性投影层、Transformer块和输出头,且各模块之间通过拼接操作实现信息传递与融合。
值得注意的是,MTP模块中的部分组件(如嵌入层、Transformer块等)与主模型共享参数,这有助于减少模型冗余并提高训练效率。同时,每个MTP模块独立计算对应的
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 | ||
| 人工智能行业周观点:Anthropic下周正式挂牌,OpenAI推出ChatGPT钱包与商户中心 | 2026-11-16 | 50 | ||
| 人工智能行业半月报(2026年11月第2期):Anthropic即将上市,黄仁勋辞去CEO等职务 | 2026-11-18 | 20 | ||
| 专题研究报告:人工智能在资本市场的应用现状与演进方向 | 2026-11-19 | 31 |

行研数据库
创投数据库
证券数据库
商业数据库










