行行查
行业研究数据库
人工智能行业研究:3.2大语言模型分训练、推理数据流程——存力决定算力效率
- 人工智能
- 算力
大语言模型在训练和推理阶段的数据流动过程高度依赖于硬件架构的协同配合,其中存储能力对整体算力效率具有决定性影响。在模型训练过程中,数据首先从SSD通过PCIe 6.0传输至LPDDR5x内存,随后由CPU完成Token化处理,并将结果回传至LPDDR5x;接着通过C2C互联技术将参数送入HBM(高带宽内存),作为输入传递给GPU进行计算。GPU完成训练后,将结果返回HBM,再写入LPDDR5x并最终保存至SSD,同时支持周期性地保存checkpoint以保障训练进度。
而在模型推理阶段,流程类似但更强调实时响应:模型同样从SSD经PCIe 6.0加载到LPDDR5x,用户请求通过网络发送至交换机,由CPU进行Token化处理后传入LPDDR5x,再经C2C互联连接HBM向GPU发起计算请求。GPU完成计算后将结果传回HBM,再通过LPDDR5x返回CPU,最后由CPU将结果经交换机送达用户端。整个过程中,GPU与HBM之间通过高速互连实现高效数据交换,而机柜内采用NVLINK 5.0铜缆背板实现Scale-up扩展,机柜间则通过InfiniBand或Spectrum-X实现Scale-out互联,确保大规模
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










