中国互联网协会副理事长赵志国：人工智能技术快速迭代 网络安全能力需同步进化

6月24日，在第十四届互联网安全大会上，中国互联网协会副理事长、工业和信息化部原总工程师赵志国发表演讲。

当前，新一轮科技革命和产业变革深入发展，人工智能技术快速迭代，智能体作为人工智能与实体经济深度融合的重要载体，正在深刻影响着生产方式、生活方式，重构安全的边界。

赵志国提出三点认识。

第一，把握技术特点，深刻洞察智能体安全的新态势

当前，智能体技术正加速演进，应用场景不断拓展。与以往的信息系统相比，智能体最本质的变化在于，它不再是被动执行的问答工具，而是被赋予了自主感知、决策和执行能力的行动主体。这一技术特征的跃升，深刻改变了网络安全的攻防态势。

一是自主决策放大安全风险。智能体具备自主决策能力后，安全风险从“技术故障”扩展到“决策失控”。一旦出现偏差或扰动，智能体可能采取偏离人类预期的行动，其后果不可预测。这一内生性风险，对安全可控性提出了根本性挑战。

二是人机难辨冲击责任体系。智能体以高度拟人化的方式在系统中自主操作，传统基于身份的信任机制面临失效风险。当智能体自主签署契约、执行交易、调用资源时，安全责任如何界定、越权行为如何定性，都成为亟待破解的现实难题。

三是深度嵌入加剧传导效应。随着智能体加速向制造、金融、能源等关键领域渗透，任何一处安全隐患，都可能借助智能体的自主调度能力，在短时间内引发跨网络、跨行业的连锁反应，对风险防范和应急处置提出了新的更高的要求。

第二，把握战略主动，加快构建高水平的安全体系新格局

安全是发展的前提，发展是安全的保障。智能体安全是典型的跨领域、跨层级系统工程，靠单点防守、各自为战打不赢，必须以总体国家安全观统领全局，系统谋划、协同推进。

一是以核心技术攻关夯实内功。要把智能体安全核心技术攻关摆在突出的位置，加强算法可解释性、数据隐私的保护、系统鲁棒性等关键领域的研发投入，从源头上增强主动防御能力，掌握发展主动权。

二是以制度规则建设筑牢屏障。加快建立适应智能体特点的安全规范与评估认证机制，对高风险智能体实施分级分类管理，明确研发、部署、运营各环节的责任边界，做到有章可循、有规可依。

三是以标准体系建设引领行业规范。在国家标准框架下，推动产学研用深度融合，加快形成覆盖智能体研发、落地、运维全生命周期的防护标准，以高质量标准供给支撑高水平安全保障。

第三，汇聚行业力量，共谱发展与安全协同并进新篇章

回顾我国信息通信产业数十年发展历程，每一次技术跃升都伴随着安全能力的同步进化，我们有信心也有能力在智能体时代走出一条发展与安全协同并进的道路。中国互联网协会将充分发挥桥梁纽带作用，重点在三个方向持续用力。

一是加快推进智能体安全标准研制。积极推动政府部门、龙头企业、科研院所，加快制定智能体安全能力评估、风险分级分类、数据安全合规等领域的行业标准、团体标准，为产业规范化发展提供制度依据，以高质量发展的确定性应对安全风险的不确定性。

二是搭建产学研协同安全平台。整合协会网络资源，推动企业、高校、科研机构在智能体安全技术研发、应急响应协同、推广最佳实践等方面深度合作，构建政府引导、企业履责、社会参与的共治格局，以开放协作的姿态应对共同挑战。

三是深化国际交流互鉴。积极参与全球人工智能安全治理规则的制定与协调，搭建智能体安全对话平台，共同探索智能时代全球网络安全治理的协作路径，携手构建网络空间命运共同体，为全球智能体产业的健康发展贡献中国智慧和中国力量。