行行查
行业研究数据库
人工智能行业研究:扩展规律(ScalingLaw)的六阶段演进
- 人工智能
- 汽车
扩展规律(Scaling Law)的演进可划分为六个阶段。第一阶段(2017—2019)为经验缩放前史,模型性能初步实现可预测,跨任务泛化误差随规模扩大下降,如Hestness等研究所示。第二阶段(2020)正式确立预训练Scaling Law,GPT-3验证了参数量、数据量与计算量之间的幂律关系,并展现出Few-shot能力。第三阶段(2021—2022)重心从Loss转向实际能力,发现部分能力在达到特定规模阈值后集中涌现,代表成果包括Gopher、PaLM和Wei等的研究。第四阶段(2022—2023)关注计算最优与推理经济性,Chinchilla提出固定算力下应平衡参数与Token数量,LLaMA则通过小模型+多Token策略优化部署成本。第五阶段(2023—2024)聚焦数据约束与质量Scaling,高质量独立Token成为瓶颈,Muennighoff等推动过滤、去重、配比等数据工程方法提升效率。第六阶段(2024至今)进入推理时计算与强化学习驱动的新周期,模型通过延长思考、搜索、验证及动态算力分配来应对复杂推理任务,o1、Snell、DeepSeek-R1等是典型代表。整个演进路径体现了从“越大越好
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










