行行查
行业研究数据库
人工智能行业研究:MMaDA通过三阶段训练范式驱动统一扩散架构,实现跨模态的理解生成
- 人工智能
MMaDa模型通过三阶段训练范式驱动统一扩散架构,实现跨模态理解与生成能力。第一阶段为预训练,涵盖三种多样化任务:语言建模、多模态理解和视觉生成,奠定基础表征能力。第二阶段采用混合长链思维(Long-CoT)微调,融合推理型任务如DeepSeek-R1-LMAI-81与世界知识类任务如GPT-4.1,在人工校验与重格式化后构建高质量数据流,强化复杂推理与知识整合。第三阶段引入UniGRPO多样化奖励机制,针对文本推理、多模态推理和文生图三类任务分别设计奖励函数,包括正确性、格式合规性、CLIP得分等指标,引导模型输出更精准、结构更规范的结果。
在UniGRPO训练环节,采用离散扩散生成机制,结合迭代去噪策略处理图像/文本提示与响应;同时运用均匀随机掩码技术,在多轮迭代中动态调整掩码比例(0.25至0.75),并通过平均序列对数概率优化masked token的预测表现。推理阶段支持三大核心功能:文本推理(如数学题求解)、多模态问答(如识别图片内容并解释)及文生图创作(如基于地标建筑描述生成带世界知识的图像)。整个系统以MLLM(多模态大语言模型)为核心,依托离散扩散机制完成端到端跨模态生成与理解。
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










