今年年初，“全民养小龙虾”让智能体概念深入人心。但在网络安全专家看来，智能体的普及应用在带来新能力的同时，也在深刻改变网络安全的攻防态势。6月24日，在以“智能体颠覆安全”为主题的第十四届互联网安全大会上，多位业内权威专家和头部安全企业探讨了AI时代的网络攻防新格局。
中国互联网协会副理事长、工业和信息化部原总工程师赵志国指出，与以往的信息系统相比，智能体最本质的变化在于，它不再是被动执行的问答工具，而是具备自主感知、决策和执行能力的行动主体。这一技术特征的跃升放大了安全风险。因为智能体具备自主决策能力后，安全风险从“技术故障”扩展到“决策失控”。一旦出现偏差或扰动，智能体可能采取偏离人类预期的行动，后果不可预测。此外，智能体以高度拟人化的方式在系统中自主操作，传统的基于身份的信任机制面临失效风险。当智能体自主签署契约、执行交易、调用资源时，安全责任如何界定、越权行为如何定性，都成为亟待解决的问题。随着智能体加速向制造、金融、能源等关键领域渗透，任何一处安全隐患都可能借助智能体的自主调度能力，在短时间内引发跨网络、跨行业的连锁反应，对风险防范和应急处置提出了新的更高要求。
ISC.AI名誉主席、中国工程院院士邬贺铨认为，长期以来，网络安全工作的思路是被动响应模式，在面对人工攻击时尚可支撑，但在智能体集群的饱和式攻击面前，反应速度永远慢半拍。因此，必须用人工智能赋能威胁狩猎、异常检测与自动化响应。
中国工程院院士、中国人工智能学会副理事长赵春江表示，应建立多智能体协同构建、协同防御的机制，建立覆盖数据层、模型层、应用层、检测层和基础设施层的“五维技术体系架构”。他强调，应推动安全防御从被动应对转向主动免疫，并加快完善相应的安全治理框架。
赵志国提出，应通过加强核心技术攻关、完善分级分类管理与评估认证机制、建立覆盖研发、部署和运维全生命周期的安全标准体系，提升主动防御和系统治理能力。
美国人工智能企业Anthropic公司在今年4月发布了Mythos大模型，其超强的自动网络漏洞挖掘能力给全球网络安全领域带来巨大冲击。在美国政府的协调下，Anthropic公司联合亚马逊、苹果、微软等多家科技巨头，建立了“玻璃之翼”计划，旨在主动发现并修复美国及其盟友的关键软件中的安全隐患。
Mythos大模型带来的冲击也传递到了本届互联网安全大会。360集团创始人、ISC.AI大会主席周鸿祎表示，Mythos对传统网络安全行业形成降维打击，如果没有一套新的应对办法，中国网络安全将面临“第二次单向透明”。他预测，未来几年，我国很多关键基础设施和重要产业将进入网络攻击高发期。他表示，中国网络安全行业必须拥有自己的Mythos，自己先看见并修补漏洞，而不是被动应对。
与美国通过“玻璃之翼”计划保护关键基础设施的做法类似，在本届互联网安全大会上，多家中国网络安全企业、重点信创企业和关键基础设施单位启动了“磐石之盾”安全协作计划，横跨芯片、操作系统、数据库、软件、安全、云计算等领域，标志着中国在关键信息基础设施自主安全协作方面迈出了重要一步。
天宇优配提示：文章来自网络，不代表本站观点。
