近日，安全专家披露，基于大语言模型（LLM）的AIOps智能运维系统存在被“投毒”输入数据欺骗的安全隐患。这类系统通过自动收集和分析应用遥测数据（包括系统日志、性能指标和告警信息）来完成故障检测与修复建议，部分头部厂商如Cisco已将其引入会话界面，方便运维人员查询和管理系统表现。
最新研究发现，攻击者能够通过精心伪造的遥测数据，诱使AIOps自主采取有害操作，例如降级关键软件包到存在漏洞的旧版本，进而危及整个IT基础设施的安全。该研究团队提出的“投毒攻击”方法可自动进行侦察、模糊测试及敌意输入生成，无需事先了解目标系统内部结构。
为应对此类威胁，研究者提出AIOpsShield防御机制，利用遥测数据的结构化特性有效过滤恶意注入。在实际测试中，该方案未影响系统正常表现同时成功阻断了“投毒”攻击。该项工作提醒行业，AIOps正成为新兴的攻击面，亟需在设计之初加强安全性考量。