行行查
行业研究数据库
人工智能行业研究:图19大语言模型的发展历程
- 人工智能
大语言模型的发展历程可以分为三个主要阶段:静态词向量、预训练+微调以及预训练+提示。在早期的静态词向量阶段,以Word2Vec和GloVe为代表,这类模型通过固定词向量表示词汇语义,但无法捕捉上下文变化。随后进入预训练+微调阶段,以Transformer架构为基础,出现了BERT、RoBERTa、ALBERT等模型,它们采用编码器结构,通过大规模语料进行预训练,并在具体任务上进行微调,显著提升了自然语言处理性能。这一阶段还衍生出如Multi-BERT、ELECTRA、XLM等多语言或改进型模型。随着技术演进,模型规模持续扩大,出现GPT系列(如GPT-2约15.58亿参数、GPT-3约1750亿参数)、LaMDA、InstructGPT等基于解码器结构的生成式模型,强调语言生成能力。近年来,发展进入预训练+提示阶段,模型不仅参数量进一步提升(如PaLM 2约3400亿、GLM-130B约1300亿),还引入了更高效的提示学习机制,代表模型包括ChatGLM-6B、Vicuna、LLaMA、PanGu-Σ等,推动了大模型在对话理解、代码生成等复杂任务中的应用。整体趋势显示,大语言模型正朝着更大规模、更强泛化能力
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










