行行查
行业研究数据库
半导体行业研究:内存层级架构
- 半导体
- 存储器
现代AI系统中的内存层级架构呈现出金字塔式的分层结构,旨在满足不同数据访问速度和容量需求。最顶层是“近内存”(Near Memory),采用美光HBM4、HBM3E和GDDR7等高带宽存储技术,每GPU提供10-100GB的KV缓存和1-20TB/s的带宽,用于支持毫秒级到秒级的活跃token生成任务,是距离GPU最近、性能要求最高的层级。
第二层为“主内存”(Main Memory),使用美光高容量DDR5 RDIMM和SOCAMM2,容量在200-400GB之间,带宽达100-500GB/s,适用于数秒到分钟级别的长上下文查询,需在容量与带宽间取得平衡以服务CPU和GPU。
第三层是“扩展内存”(Expansion Memory),由美光高容量DDR5 RDIMM组成的解耦内存阵列构成,容量可达数百GB至TB级别,带宽为100-200GB/s,主要用于分钟到小时级的查询调度和上下文切换,通过网络连接实现弹性扩容,提升主内存的灵活性。
第四层为“上下文内存存储”(Context Memory Storage),采用美光9650 SSD和7600 SSD,容量从十TB到百TB不等,带宽20-200GB/
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 机械设备行业:AI带动半导体设备需求增长,国产替代加速 | 2026-10-08 | 27 | ||
| 市场跟踪月报:动量风格占优,半导体主线再聚焦 | 2026-10-13 | 27 | ||
| 半导体行业深度报告:AI驱动全球晶圆厂加速扩产,国产半导体设备厂商迎来高速成长期 | 2026-10-21 | 39 | ||
| 半导体行业深度报告:扩产景气叠加协同创新,坚定看好半导体上游环节 | 2026-10-23 | 19 | ||
| 2026年全球半导体行业展望报告 | 2026-10-10 | 25 | ||
| 半导体与半导体生产设备行业半导体基石系列之九:设备材料Q2回顾与Q3展望,产业景气加速向上游传导 | 2026-10-26 | 20 | ||
| 机械设备行业周报:关注工程机械、轨交装备及半导体设备 | 2026-11-04 | 15 | ||
| 半导体行业深度报告:溅射靶材行业深度:半导体PVD工艺核心耗材,国产化进程加速 | 2026-11-04 | 23 | ||
| 半导体:半导体设备是芯片产业的基石,河南省亟待破局 | 2026-11-05 | 42 | ||
| 美股市场速览:资金大举流出硬件半导体 | 2026-11-09 | 17 |

行研数据库
创投数据库
证券数据库
商业数据库










