9月15日，在2025年国家网络安全宣传周主论坛上，《人工智能安全治理框架》2.0版（以下简称《框架》2.0版）正式发布。

落实《全球人工智能治理倡议》，《人工智能安全治理框架》1.0版（以下简称《框架》）于2024年9月发布，并受到国内外广泛关注。一年来，人工智能技术和应用发展迅速，为应对新机遇新挑战，在国家网信办指导下，由国家互联网应急中心牵头组织人工智能专业机构、科研院所、行业企业联合制定了《框架》2.0版。作为全国网安标委技术文件，《框架》2.0版在2024年《框架》基础上，结合人工智能技术发展和应用实践，持续跟踪风险变化，完善优化风险分类，研究探索风险分级，动态调整更新防范治理措施。

国家互联网应急中心负责同志表示，《框架》2.0版的发布，顺应全球人工智能发展潮流，统筹技术创新与治理实践，在人工智能安全、伦理、治理等方面不断深化共识，促进形成安全、可信、可控的人工智能发展生态，构建跨国界、跨领域、跨行业的协同治理格局。同时，有助于推进多边机制下人工智能安全治理合作，推动世界范围内技术成果的普惠共享，确保人类社会共享人工智能发展的红利。

企数仓附主要内容如下：

• 治理原则：明确了五大原则，包括包容审慎，即为创新留容错空间，严守安全底线；敏捷识险，即多维度梳险、分级应对；技管融合，即明确多方责任，联动政府、行业、社会；开放合作，即构建全球治理共识；可信防失控，即确保 AI 始终受人类控制。
• 风险分类：涵盖三类核心风险，分别是技术内生风险、技术应用风险和应用衍生风险。技术内生风险包括模型算法（可解释性不足、偏见、鲁棒性弱等）和数据安全（违规收集、内容不当、标注不规范、信息泄露）等方面的风险；技术应用风险包括网络系统（组件算力、供应链、攻击滥用）、信息内容（违法输出、混淆事实）、现实安全（关键设施风险、犯罪利用、核生化武器知识失控）、认知安全（信息茧房、认知战）等方面的风险；应用衍生风险包括社会环境（就业冲击、资源消耗）和伦理（偏见加剧、创新抑制、科研伦理、沉迷依赖、秩序挑战、失控风险）等方面的风险。此外，框架还同步提出 “低、一般、较大、重大、特别重大” 五级风险分级标准，基于应用场景、智能化水平、规模评估。
• 技术应对措施：针对三类风险精准施策，如提升模型可解释性与鲁棒性、规范数据全生命周期管理、强化供应链防护、建立 “熔断” 机制、研发 AIGC 检测技术等。
• 综合治理措施：提出了 14 项跨维度举措，包括健全法律法规、构建伦理准则、全生命周期安全管控、开源与供应链安全、应用分类分级管理、AIGC 溯源、安全测评体系、风险信息共享、人才培养、国际合作等。
• 安全指引：覆盖 AI 全链条，包括模型算法研发（安全设计、数据合规、测试验证）、应用建设部署（供应链校验、权限管控）、运行管理（人工复核、日志留存、应急演练）、访问使用（风险认知、隐私保护）。

企数仓附全文地址：

https://www.cac.gov.cn/2025-09/15/c_1759653448369123.htm