行行查
行业研究数据库
人工智能行业研究:大模型安全呈多维复杂态势,挑战超越传统安全边界
- 人工智能
- 大模型
大模型安全呈现多维度复杂态势,挑战已超越传统安全边界。在基础设施安全方面,算力主机需关注设备控制、供应链漏洞、计算资源滥用及基座漏洞;基础模型则面临模型窃取与训练数据投毒风险。内容安全涵盖提示注入攻击、价值观偏差、生成虚假内容、信息茧房及黑灰产平台等问题,同时需防范幻觉/杜撰、人为误导、隐私性与时效性缺失,以及敏感词触碰和意识形态渗透等政治安全风险。数据与知识库安全包括数据采集、存储、流转中的合规与泄密隐患,RAG架构下的越权搜索、提示泄露、原文档安全和知识投毒亦不容忽视。智能体风险集中于Agent层面,涉及API调用、第三方组件漏洞、插件滥用、执行权限超限、行为失控及自我部署威胁,MCP安全还需应对格式化滥用、数字欺诈和数据投毒等新型攻击。用户端风险体现在大模型访问控制失效、知识库误用或泄露、智能体被劫持、API滥用误用、恶意脚本执行、恶意第三方插件植入、个人隐私泄露及MCP执行异常等方面。整体来看,大模型安全需构建覆盖基础设施、模型本体、内容输出、数据治理、智能体交互与终端应用的全栈防护体系。
关联报告






| 标题 | 时间 | 页数 | 目录 | 下载 |
|---|---|---|---|---|
| 人工智能系列(二):AI驱动下的电子行业新周期 | 2026-10-24 | 35 | ||
| 人工智能行业专题(24):AI短剧:注意力经济新兴市场,AI赋能工业化生产 | 2026-10-26 | 32 | ||
| 人工智能对广域网的影响:思科报告2026 | 2026-10-27 | 26 | ||
| 电力设备与新能源行业周报:特斯拉Optimus量产继续推进,全面实施“人工智能+”行动 | 2026-10-27 | 15 | ||
| 《人工智能能力建设普惠计划》进展报告(2026) | 2026-10-27 | 22 | ||
| 人工智能的物理竞赛:对电力、水和关键矿产的控制正成为人工智能领导地位的决定性因素 | 2026-10-27 | 16 | ||
| 人工智能主线周报:智元发布具身模型,看好智能化 | 2026-11-02 | 19 | ||
| 人工智能行业专题:2026Q3海外大厂CapEx和ROIC总结梳理 | 2026-11-02 | 25 | ||
| 通信及人工智能组行业光互连系列报告(一):FAU,CPO/NPO驱动量价双升 | 2026-11-03 | 22 | ||
| 人工智能及计算机行业行业月报:国家数据集团正式成立,物理AI迎奇点时刻 | 2026-11-07 | 27 |

行研数据库
创投数据库
证券数据库
商业数据库










