在上周举办的Black Hat大会上，多家网络安全公司展示了AI代理的最新进展，预示网络防御者或将拥有更强大的反制黑客工具。Microsoft公开了一款新原型，可自动检测恶意软件，目前检测率为24%；Trend Micro则推出基于AI的”数字孪生”功能，让企业能在安全环境中模拟真实网络威胁。此外，多个团队还发布了自动识别并修复漏洞的开源工具，成为政府主导AI Cyber Challenge的一部分。
然而，iCounter CEO John Watters指出，网络犯罪分子也正利用AI工具加快侦察，创造新型攻击途径。业界关于AI对网络安全格局影响有两种观点：一派认为防御方仍占优势，因攻击性AI工具的开发门槛较高、资源受限；另一派则警告，黑客正借助开源大模型开发自动扫描、发现零日漏洞和编写恶意代码的工具，攻势或将快速升级。
Palo Alto Networks威胁研究团队CTO Michael Sikorski指出，尽管当前AI尚难对恶意行为作出类人判断、且高算力需求也限制其应用，但随着模型能力提升，黑客有可能操控受害企业自身的AI代理展开攻击。关于AI对网络攻防影响的速度，业界意见明显分歧。