今年年初,“全民养小龙虾”让智能体概念深入人心。但在网络安全专家看来,智能体的普及应用在带来新能力的同时,也在深刻改变网络安全的攻防态势。6月24日,在以“智能体颠覆安全”为主题的第十四届互联网安全大会上,多位业内权威专家和头部安全企业探讨了AI时代的网络攻防新格局。
中国互联网协会副理事长、工业和信息化部原总工程师赵志国指出,与以往的信息系统相比,智能体最本质的变化在于,它不再是被动执行的问答工具,而是具备自主感知、决策和执行能力的行动主体。这一技术特征的跃升放大了安全风险。因为智能体具备自主决策能力后,安全风险从“技术故障”扩展到“决策失控”。一旦出现偏差或扰动,智能体可能采取偏离人类预期的行动,后果不可预测。此外,智能体以高度拟人化的方式在系统中自主操作,传统的基于身份的信任机制面临失效风险。当智能体自主签署契约、执行交易、调用资源时,安全责任如何界定、越权行为如何定性,都成为亟待解决的问题。随着智能体加速向制造、金融、能源等关键领域渗透,任何一处安全隐患都可能借助智能体的自主调度能力,在短时间内引发跨网络、跨行业的连锁反应,对风险防范和应急处置提出了新的更高要求。
ISC.AI名誉主席、中国工程院院士邬贺铨认为,长期以来,网络安全工作的思路是被动响应模式,在面对人工攻击时尚可支撑,但在智能体集群的饱和式攻击面前,反应速度永远慢半拍。因此,必须用人工智能赋能威胁狩猎、异常检测与自动化响应。
中国工程院院士、中国人工智能学会副理事长赵春江表示,应建立多智能体协同构建、协同防御的机制,建立覆盖数据层、模型层、应用层、检测层和基础设施层的“五维技术体系架构”。他强调,应推动安全防御从被动应对转向主动免疫,并加快完善相应的安全治理框架。
赵志国提出,应通过加强核心技术攻关、完善分级分类管理与评估认证机制、建立覆盖研发、部署和运维全生命周期的安全标准体系,提升主动防御和系统治理能力。
美国人工智能企业Anthropic公司在今年4月发布了Mythos大模型,其超强的自动网络漏洞挖掘能力给全球网络安全领域带来巨大冲击。在美国政府的协调下,Anthropic公司联合亚马逊、苹果、微软等多家科技巨头,建立了“玻璃之翼”计划,旨在主动发现并修复美国及其盟友的关键软件中的安全隐患。
Mythos大模型带来的冲击也传递到了本届互联网安全大会。360集团创始人、ISC.AI大会主席周鸿祎表示,Mythos对传统网络安全行业形成降维打击,如果没有一套新的应对办法,中国网络安全将面临“第二次单向透明”。他预测,未来几年,我国很多关键基础设施和重要产业将进入网络攻击高发期。他表示,中国网络安全行业必须拥有自己的Mythos,自己先看见并修补漏洞,而不是被动应对。
与美国通过“玻璃之翼”计划保护关键基础设施的做法类似,在本届互联网安全大会上,多家中国网络安全企业、重点信创企业和关键基础设施单位启动了“磐石之盾”安全协作计划,横跨芯片、操作系统、数据库、软件、安全、云计算等领域,标志着中国在关键信息基础设施自主安全协作方面迈出了重要一步。
天宇优配提示:文章来自网络,不代表本站观点。