行行查
行业研究数据库
人工智能行业研究:深度学习通用学术成果时间轴
- 人工智能
- 机器学习
这张图展示的是“深度学习通用学术成果时间轴”,从1974年到2020年,按年份梳理了推动深度学习发展的关键算法、结构和优化方法。整个时间轴分为三个阶段:S级(最核心突破)、A+级和A级(重要但稍次一级的进展)。
在S级中,最早是1974年的反向传播雏形;之后陆续出现1986年反向传播在神经网络中的标准化、1989年梯度消失/爆炸问题与激活函数研究、1997年LSTM门控结构、2005年无监督预训练、2010年前后ReLU普及、Dropout防过拟合、Adam优化器登场;2015年后进入爆发期——Batch Normalization、Attention机制、Transformer架构、残差网络ResNet等相继问世,彻底改变模型设计范式。
A+级包括1989年的BPTT(随时间反向传播),用于处理序列数据;以及2010年代中期出现的Xavier/Glorot初始化、He/Kaiming初始化、AdaGrad/RMSNorm等参数初始化和归一化技术,显著提升训练稳定性。
A级则涵盖更早或辅助性贡献,如1990年代的梯度消失问题早期探索、2010年后的Adagrad优化器、GRU简化版LSTM、GELU激活
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










