行行查
行业研究数据库
软件行业研究:1.4软硬协同:Mosaic编译器驱动SparseCore实现全融合
- 软件
- 人工智能
谷歌在TPU架构设计中通过软硬协同的方式实现了对MoE(Mixture of Experts)模型的高效支持,其核心在于Mosaic编译器与SparseCore硬件单元的深度融合。传统vLLM MoE架构中,由于“按专家ID排序”导致TPU在执行时出现排序延迟和通信无法重叠的问题,成为性能瓶颈。为解决这一问题,谷歌提出了“全融合MoE”方案,该方案依托JAX DevLabs和Mosaic编译器,在TPU v7上实现了MPMD(多程序多数据)编译模式。
在这一架构中,主核心TensorCore(MXU)专注于密集计算任务,如矩阵乘法,承担核心的稠密计算负载;而SparseCore则利用其与高带宽内存(HBM)和片上互连(ICI)的直连优势,接管gather/scatter等稀疏操作任务,仅占用约5%的芯片面积和功耗,便实现了对embedding操作5至7倍的加速。此外,SparseCore内部集成了负责调度的Sequencer(SCS)和负责计算的Tiles(SCT),并借助并行机制,使SparseCore与TensorCore能够同步运行,从而实现计算资源的高效协同。
在工作流程方面,全融合MoE通过消除
关联报告

.jpg)




| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 2026年AI驱动的SDLC及软件供应链安全技术应用指南 | 2026-09-10 | 82 | ||
| 人工智能行业:AI驱动的SDLC及软件供应链安全技术应用指南——立足AI原生,构建安全可信的AI开发生态 | 2026-09-12 | 78 | ||
| 星环科技(688031)首次覆盖报告:AI软件的“寒武纪时代” | 2026-09-13 | 33 | ||
| 机器人软件架构基准研究报告 | 2026-09-28 | 28 | ||
| 驾驭工程:赋能智能原生软件工程研究报告(2026年) | 2026-09-30 | 63 | ||
| 沐曦股份(688802)深度报告:高性能GPU提供商,互联/集群与软件生态持续完善 | 2026-10-10 | 39 | ||
| 软件&IT服务:在共识中寻新机 | 2026-10-12 | 18 | ||
| 2026中国汽车基础软件发展报告7.0 | 2026-10-29 | 110 | ||
| 软件&IT服务:Anthropic:需求持续兑现,规模效应推动盈利增长 | 2026-10-29 | 26 | ||
| 2026年度中国软件行业基准数据报告(SSM-BK-202609) | 2026-10-10 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










