行行查
行业研究数据库
人工智能行业研究:盘古ProMoE大模型MoGE架构示意图
- 人工智能
- 大模型
盘古 Pro MoE 大模型采用了名为 MoGE(Mixture of Grouped Experts)的创新架构,旨在提升模型在保持高性能的同时实现高效的稀疏性计算。该架构的核心思想是将专家网络(Experts)进行分组管理,并通过全局路由机制动态选择最合适的专家子集参与计算,从而在降低计算开销的同时维持模型表达能力。
在整体结构上,MoGE 模块嵌入于标准的 Transformer 层中,与 Group-Query Attention 和 RMSNorm 模块共同构成完整的处理流程。输入的隐藏状态首先经过 RMSNorm 归一化处理,随后进入 Group-Query Attention 模块进行注意力计算,再经过一次 RMSNorm 后送入 MoGE 模块。MoGE 模块接收前序层输出的隐藏状态作为输入,通过一个“全局 Softmax 路由器”(Global Softmax Router)对输入进行分析,决定哪些专家应被激活。
具体而言,系统包含多个专家组(Expert Group),每个组内有若干个独立的专家模块(如 E₁,₁、E₁,₂…Eₘ,ₙ),这些专家负责处理特定类型的输入特征。路由器会为每个
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










