行行查
行业研究数据库
人工智能行业研究:DeepSeek-V2 整体架构示意图,使用了 MoE 和 MLA(Multi-Head Latent Attention)
- 人工智能
- 大模型
DeepSeek-V2 模型的整体架构融合了混合专家系统(Mixture-of-Experts, MoE)与多头潜在注意力机制(Multi-Head Latent Attention, MLA),旨在提升模型在性能、效率和经济性方面的综合表现。该架构以标准的 Transformer 块为基础,但在关键组件上进行了创新优化。
在模型结构中,每个 Transformer 块包含两个主要部分:前馈网络(Feed-Forward Network)和注意力机制(Attention)。其中,前馈网络被替换为 DeepSeekMoE 模块,该模块由多个专家网络构成,包括共享专家(Shared Expert)和路由专家(Routed Expert)。输入隐藏状态 $ \mathbf{u}_t $ 经过一个“Router”模块后,被分配给 Top-K 个最相关的专家进行处理,从而实现稀疏激活,降低计算成本。输出隐藏状态 $ \mathbf{h}’_t $ 则由这些被选中的专家共同生成,提升了模型的表达能力与参数利用效率。
与此同时,注意力机制部分引入了 MLA 技术,其核心在于将传统的查询(Query)、键(Key)和值(
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










