近日，安全专家Bruce Schneier在其博客披露了一起由大型语言模型（LLM）自动重构代码导致的系统故障案例。事件中，LLM在迁移代码片段时，将一个“break”语句误改为“continue”，导致原本用于错误记录的逻辑变成了死循环，最终导致系统崩溃。这一失误被认为是处理完整性（processing integrity）的典型失败。相关讨论中，多位开发者建议不能仅依靠手动代码审查，强调自动化测试与覆盖率的重要性，但也指出即便引入人工智能生成或维护测试，也难以彻底避免深层次的漏洞。
此外，专家们提醒，尽管LLM在大规模重构上展现高效率，但即便准确率达到99%，数百行修改中依然可能藏有难以察觉的错误。新工作流程需权衡发布速度与严格测试，开发团队需谨慎应对由AI带来的技术债务和长期风险。