近日，一项名为“Mind the Gap: Time-of-Check to Time-of-Use Vulnerabilities in LLM-Enabled Agents”的研究引起业内关注，指出基于大语言模型（LLM）的智能体正面临名为Time-of-Check to Time-of-Use（TOCTOU）的安全漏洞。TOCTOU漏洞以往主要出现在计算机系统安全领域，如今首次被系统地评估在LLM智能体上可能造成的风险。
研究团队开发了TOCTOU-Bench基准测试，通过66个真实用户任务，展示了攻击者可利用检查和实际使用之间的时间差修改外部状态，包括文件或API响应，实现配置篡改或恶意注入等攻击。
论文还提出了多种缓解策略，包括提示重写、状态完整性监控和工具融合等，并将系统安全领域的检测技术加以适应。在实验中，自动化检测方法最高能识别25%的攻击场景，同时将易受攻击的计划生成率降低3%，攻击窗口缩短95%，且多项措施结合后将智能体中的TOCTOU漏洞率从12%降低至8%。
该研究强调，随着AI智能体日益广泛应用，保障其安全需结合AI安全与传统系统安全手段，TOCTOU问题为未来AI系统设计和防护提出了新挑战。