行行查
行业研究数据库
人工智能行业研究:SparseGPT实现Opt-175B高效参数剪枝与60%稀疏性
- 人工智能
- 大模型
SparseGPT是一种高效的模型压缩技术,能够对大规模语言模型进行稀疏化处理,实现显著的参数剪枝。该方法由奥地利科技学院等机构的研究者提出,适用于100亿至1000亿参数级别的模型,能够在单个GPU上快速运行,尤其在处理如1750亿参数的Opt-175B模型时表现出色。
SparseGPT的核心思想是将模型剪枝问题转化为一个大规模的稀疏回归问题,并采用基于Hessian逆矩阵的近似稀疏回归求解器来解决分层压缩难题。其具体流程为:给定一个固定的修剪掩码M,利用Hessian逆序列逐列增量地修剪权重矩阵W中的权重,并更新当前列右侧的其他权重以补偿剪枝带来的误差,而未被修剪的部分则保持不变。这种机制确保了在大幅减少模型参数的同时,仍能维持较高的性能表现。
实验结果显示,SparseGPT可以在Opt家族的1750亿参数模型中实现高达60%的均匀分层稀疏性,且在相同稀疏度下,其性能远优于传统的幅度剪枝(Magnitude Pruning)方法——后者在10%稀疏度时准确率已明显下降。图示对比表明,SparseGPT在保持较低困惑度(Perplexity)方面具有显著优势,说明其在压缩模型的同时有效保留了语言建模
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










