当大模型加速涌入金融、政务、能源等关键领域，其“越智能，越危险”的安全悖论正引发行业警觉。在2025年世界互联网大会乌镇峰会上，360数字安全集团正式发布国内首份《大模型安全白皮书》，系统性揭示大模型全生命周期中的五大核心风险，并首次提出“外挂式安全 + 平台原生安全”双轨治理框架，为高危ai时代拉起一道纵深防御屏障。
白皮书指出，大模型的安全威胁已形成跨层级、强耦合的复杂矩阵，涵盖五大维度:
基础设施层:算力集群、训练平台遭攻击可能导致模型被投毒或窃取;内容层:生成虚假信息、违规内容或“AI幻觉”引发社会风险;数据与知识库层:训练数据泄露、知识库被污染将动摇模型可信根基;智能体层（Agent）:自主决策的AI代理若被操控，可能执行恶意任务;用户端层:提示注入、越权访问等攻击可绕过防护直接操控模型行为。
面对这一多维威胁，360提出双轨并行的安全策略:
“外挂式安全”:在模型外部部署监测、过滤与审计系统，如内容合规网关、异常行为检测;
“平台原生安全”:将安全能力内嵌至大模型研发、训练、部署、推理各环节，实现“安全即代码”。
如此AI员工
国内首个全链路营销获客AI Agent
71 查看详情
基于该理念，360已构建覆盖数据脱敏、模型加固、内容过滤、Agent行为审计、API防护、红蓝对抗、安全合规等七大核心能力的全链路解决方案，并在金融、制造、政务等多个行业落地实践。
360强调，单靠企业防护远远不够。未来将联合产学研各方，推动大模型安全标准制定、威胁情报共享与开源安全工具共建，打造开放、协同、可信的AI安全生态。
AIbase认为，在大模型从“技术秀场”迈向“生产基础设施”的关键节点，360的白皮书不仅是一份风险预警，更是一张AI安全新基建的路线图。当智能成为生产力，安全必须成为底线——这场由360发起的防御战，关乎的不只是技术，更是AI能否被社会真正信任与托付的未来。
以上就是乌镇峰会重磅发布！360首发《大模型安全白皮书》，首提“全链路AI安全防线”应对智能时代新威胁的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/599525.html
微信扫一扫 
支付宝扫一扫 
