行行查
行业研究数据库
人工智能行业研究:盘古-E在训练过程中采取ECSS方式
- 人工智能
- 大模型
盘古-Σ是华为推出的万亿参数语言模型,其核心创新在于采用ECSS(Expert-Centric Sparse Structure)方法实现稀疏异构计算,显著提升训练效率。该方法将模型中的专家模块视为存储特定领域知识的单元,每个任务或领域激活不同的专家组合。在训练过程中,仅对被激活的专家进行参数更新,其余保持冻结状态,从而大幅降低计算开销。例如,当稀疏率设为0.1时,实际参与计算的参数量仅为完整模型的10%,有效减少了算力消耗。
在技术实现上,盘古-Σ结合了MindSpore框架与CANN 9加速技术,通过稀疏激活机制、并行训练策略以及FP16/FP32混合精度优化,实现了高效的前向和反向传播流程。具体而言,系统在设备端完成稀疏激活图的构建与权重查找,并将激活后的参数传至主机进行梯度计算与优化器更新,最终回传至设备端完成参数更新。这一架构显著提升了数据吞吐能力,实验数据显示,启用ECSS后模型预训练吞吐量从约1万tokens/秒提升至7万tokens/秒,达到原先的6.34倍,充分验证了稀疏化设计在大规模模型训练中的有效性。
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










