行行查
行业研究数据库
人工智能行业研究:原生大语言模型训练、推理示意图
- 人工智能
大模型在训练阶段对存储资源的需求呈现出显著增长趋势,主要体现在显存、SSD以及带宽等多个维度的扩容需求上。随着大语言模型参数量持续扩张,例如从2020年GPT-3的1750亿参数发展到2023年GPT-4约1.8万亿参数,参数规模的增长超过9倍,直接推动了对NAND和DRAM等存储资源的持续性需求提升。
在架构层面,MoE(Mixture of Experts)结构通过稀疏激活机制实现了“大模型的容量、小模型的算力”,但其全量参数仍需存储于显存中,导致显存占用显著增加,从而进一步拉高了对显存空间的需求。同时,上下文长度的延长也加剧了显存压力——GPT-3的上下文长度为2000 Token,而GPT-5.2已扩展至约40万Token,增幅接近200倍。更长的上下文意味着动态激活值数量激增,而激活值大小与上下文长度成正比,因此对显存容量和带宽提出了更高要求。
此外,多模态大模型的发展进一步推动了对SSD存储空间的需求。这类模型在预训练阶段即融合文本、图像、视频、音频等多种模态数据,并将其统一转化为特征向量进行处理。由于多模态数据本身体积庞大,且经过预处理后生成的向量序列长度显著增加,导致对HBM(高带宽内存)
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










