行行查
行业研究数据库
人工智能行业研究:扩展规律(scalinglaw)的六阶段演进
- 人工智能
扩展规律(scaling law)的发展可分为六个阶段。2017至2019年为阶段0,是规模律的前史期,核心进展在于发现误差随数据、模型或算力增加呈幂律下降,性能具备可外推性,代表成果包括Hestness等的研究。2020年进入阶段1,预训练scaling law正式确立,loss被抽象为参数、数据和算力的函数,GPT-3验证了scale带来的few-shot能力,Kaplan、Brown和Henighan等是关键推动者。2021至2022年为阶段2,研究重心从loss转向能力涌现,“涌现能力”与“指标幻觉”成为争论焦点,Gopher、PaLM、Wei和Schaeffer等提出相关观点。2022至2023年进入阶段3,Chinchilla修正了“只堆参数”的误区,强调参数与token应随算力共同增长,实现计算最优,Hoffmann和LLaMA是典型代表。2023至2024年为阶段4,关注数据质量、对齐与部署约束,高质量token成瓶颈,指令微调、奖励模型和数据重构成重点,Muennighoff、Chung及FineWeb、DataComp-LM推动发展。2024至2026年迈入阶段5,新scaling轴出现,
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










