行行查
行业研究数据库
人工智能行业研究:图50、模型蒸馏示意图
- 人工智能
模型蒸馏(Model Distillation)是一种用于知识迁移的深度学习技术,旨在将一个复杂且性能较强的“教师模型”(Teacher Model)的知识传递给一个结构更简单、计算效率更高的“学生模型”(Student Model)。该过程通过两个主要路径实现:一是利用教师模型输出的软标签(soft labels),即在较高温度参数T下的Softmax输出概率分布,来指导学生模型学习类别之间的相对关系;二是使用原始的硬标签(hard labels),即真实标签(ground truth),作为监督信号训练学生模型。
具体流程中,输入数据x同时送入教师模型和学生模型。教师模型经过多层网络处理后,其输出经过Softmax函数(温度为T=t)生成软标签,这些软标签包含了丰富的类别间语义信息,被用作学生模型的辅助训练目标,形成蒸馏损失(distillation loss)。与此同时,学生模型也基于自身输出的软预测结果与教师模型的软标签进行对比,并结合其对硬标签的预测结果与真实标签之间的差异,计算出学生损失(student loss)。最终,学生模型通过联合优化这两个损失函数,从而在保持较高准确率的同时显著降低模型
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










