行行查
行业研究数据库
人工智能行业研究:Soft MoE routing算法
- 人工智能
2023年8月2日,Google Deepmind在论文《From Sparse to Soft Mixtures of Experts》中提出了SoftMoE这一新型路由算法,旨在解决传统稀疏混合专家模型(MoE)中存在的“token丢失”和“专家不平衡”问题。传统方法如Top-K、线性规划等在分配token到专家时存在硬性选择,容易导致部分token未被处理或某些专家负载过重。
SoftMoE的核心原理是引入可学习的权重参数,为每个输入token与slot之间的匹配计算得分,并基于这些得分进行加权线性组合。具体流程包括:首先对每个slot计算其对所有token的权重,再按列标准化后进行线性组合生成新的slot;随后每个专家处理其对应的slot;最后将各专家输出结果按token进行标准化并合并。该方法通过软性分配机制实现了更平滑、连续的token-专家映射关系,提升了模型的稳定性和表达能力。
图示对比了传统Sparse MoE与Soft MoE的差异:前者采用硬性分配方式,每个token仅被分配给一个专家,可能导致信息损失;而后者通过加权平均的方式让多个专家共同参与处理,增强了模型的灵活性和鲁棒性。这种
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










