行行查
行业研究数据库
人工智能行业研究:图15、GPT的迭代历史
- 人工智能
- 大模型
GPT系列模型的迭代历程可分为两个主要阶段。第一阶段从2017年到2021年,核心特征是模型参数规模持续扩大,训练数据不断丰富,任务融合更加多样且方式更自然。GPT-1基于Transformer解码器架构,使用BookCorpus数据集进行预训练和微调,具备零样本学习能力;GPT-2在GPT-1基础上引入Reddit高质量文本,参数增至15亿,支持上下文学习;GPT-3进一步扩展至1750亿参数,通过大规模无监督训练显著提升泛化能力,并首次实现代码生成与指令理解。在此期间,OpenAI还推出了Codex、InstructGPT等衍生模型,分别强化了代码生成和指令遵循能力。
第二阶段自2022年起,重点转向利用人工标注数据对模型输出进行引导,以提升结果质量和安全性。InstructGPT通过人类反馈强化学习(RLHF)优化生成内容,使模型更符合用户意图;ChatGPT在此基础上加入对话系统设计,大幅提升交互体验;GPT-4则为多模态大模型,具备更强的上下文处理能力,可处理超过2.5万个token的超长文本,同时在复杂问题推理和指令执行方面表现更为可靠,展现出更强的创造力和实用性。整个演进过程体现了从纯语言建模
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










