行行查
行业研究数据库
人工智能行业研究:训练——推理——代理三阶段演化对比
- 人工智能
大模型技术演进正经历从训练、推理到代理的三阶段跃迁。2020至2023年的训练阶段,核心目标是在有限成本内最大化模型收敛与参数化效率,价值重心落在参数量、架构设计及数据质量上,工作负载以高吞吐的前向/反向传播和矩阵运算为主,典型场景包括预训练与微调,Token消耗仅用于数据处理,CPU占比约5%-20%,GPU处于绝对核心地位,负责关键计算任务,CPU与GPU配比约为1:8。
进入2023至2025年的推理阶段,重点转向低成本、低延迟服务海量用户,关注点变为延迟控制、Token效率及成本优化。此阶段采用单次前向传播,无需权重更新,强调高并发与多请求处理能力,应用场景涵盖客服Chatbot、代码助手等实时交互系统,单次推理消耗1x Token,CPU工作占比提升至15%-50%。虽然GPU仍是主要推理引擎,但CPU/NPU/ASIC在部分场景可替代其功能,两者协同承担简单推理任务,配比调整为1:4甚至1:2。
自2025年起迈入代理阶段,AI需自主完成多任务闭环执行,实现“目标驱动”。此时价值衡量标准转为人工干预频率、流程周期长短等完成率指标,工作负载复杂多样,涉及多步推理、工具调用、长上下文记忆与智能体协
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










