行行查
行业研究数据库
人工智能行业研究:DeepSeek-V3基本架构
- 人工智能
- 大模型
DeepSeek-V3架构采用多token预测训练目标(Multi-token Prediction Training Objective),将多个未来Token作为联合目标进行训练,提升模型效率与推理速度。其主体由Main Model和多个MTP Modules构成:主模型负责预测下一个Token,而每个MTP模块则依次预测后续Token(如第2、第3…个),形成级联式输出结构。每个模块包含Embedding层、Transformer Block、Linear Projection及RMSNorm等组件,并通过共享部分参数实现高效扩展。
在底层设计上,DeepSeek-V3引入“Multi-head Latent Attention (MLA)”机制,在注意力计算前对Key/Value进行低秩压缩,减少内存占用并加速推理;同时采用“DeepSeekMoE”混合专家结构,通过Router动态选择Top-K专家网络处理输入,仅激活少量参数即可完成计算,大幅降低推理成本。该架构还结合了缓存优化策略,在解码阶段复用已计算的中间结果,进一步提升吞吐能力。整体设计兼顾性能与资源效率,面向大规模语言模型部署场景做了深度
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










