Google宣布，其名为“Big Sleep”的大型语言模型（LLM）代理已成功在广泛使用的开源数据库引擎SQLite中发现了一个以前未知、可利用的内存缺陷。这标志着LLM首次发现此类缺陷。该漏洞是一种堆栈缓冲区下溢，通过Big Sleep的变体分析在SQLite的开发版本中被发现，该漏洞是Google Project Zero和Google DeepMind合作的结果。
Big Sleep是Project Zero的Naptime项目在六月推出的进步，使LLM能够自主进行基本的漏洞研究。该框架提供了必要的工具，如代码浏览器、调试器、报告工具和沙盒环境，以模拟和记录Python脚本输出。研究人员通过向AI代理提供以前的SQLite漏洞和最近的代码更改来指导它，促使Big Sleep在新版本中搜索未解决的问题。
LLM代理在函数“seriesBestIndex”中发现了一个特定缺陷，该缺陷未正确处理iColumn字段中的特殊sentinel值-1，从而导致堆栈缓冲区下溢。此漏洞要求所有交互代码正确管理此特殊情况，而该函数未能做到这一点。Project Zero的博客详细介绍了Big Sleep采用的方法，利用提供的上下文和工具自主识别、测试和记录漏洞。
这一突破展示了LLM在软件安全和漏洞研究方面的潜力，突显了自主AI在识别和分析关键软件缺陷方面的重大进步。来源