《人工智能安全治理框架3.0》发布：聚焦智能体安全风险

9月14日，《人工智能安全治理框架3.0》发布，梳理更新人工智能安全风险分类，就技术应对和综合治理提出建议。三年一年一更新，3.0版有何调整?

中国政法大学人工智能法研究院副教授文禹衡表示，三年三版体现我国人工智能治理“小步快跑”。1.0版聚焦内生与应用安全风险;2.0版关注衍生风险，包括就业、伦理，并提出可信人工智能原则;3.0版则因人工智能能力跃迁——大模型从回答问题演进到以智能体为代表、可主动执行任务，故更关注智能体引发的安全风险。

框架将智能体风险、具身智能风险单独列出，体现治理结构性转变。过去是将物理社会行为投射到虚拟空间;如今智能体执行能力提升，虚拟空间行为可外溢传导至物理社会，风险已发生在现实世界。

该框架非强制性法律，而是指引性文件。对企业而言，它是一把标尺，监管者可据此衡量;企业主动对标，也能在市场中赢得用户信任。

3.0版强化开源生态与供应链安全管理，明确禁止性行为、划出红线。文禹衡认为，安全与创新应动态平衡：风险高则安全措施等级高，风险低则要求降低，而非找静态固定平衡点。这不会抑制创新，因为不安全的创新破坏力更大，未必是真正有效的创新。

针对美国科技公司称中国人工智能领先会威胁美国国家安全，文禹衡回应，这种论调片面。中国人工智能发展以人为本，一直侧重安全与发展并重，对全球主体一视同仁，作为负责任大国，并不存在影响美国国家安全的说法。

推动国际合作，他建议以互信和互鉴为两个重要抓手：大国之间要互信，采取合作姿态;各国治理规则可互鉴，取长补短。