根据最新的研究，AI生成的代码中充斥着不存在的第三方库引用，这为供应链攻击提供了机会，可能导致恶意软件包潜入合法程序，窃取数据、植入后门等恶意行为。研究显示，使用16种主流大型语言模型生成的576,000个代码样本中，有440,000个依赖项是“幻觉”，即不存在的库。尤其是开源模型，其中21%的依赖项链接到不存在的库。
这些虚构的依赖项加剧了所谓的依赖项混淆攻击，这种攻击通过发布恶意软件包并使用与合法软件包相同的名称但更高版本号，使软件访问错误的组件依赖。此类攻击首次在2021年通过概念验证漏洞演示，包括影响Apple、Microsoft和Tesla等大型公司的网络。
研究人员指出，“一旦攻击者在幻觉名称下发布包含恶意代码的软件包，他们依赖模型向毫无戒心的用户推荐该名称。”如果用户信任LLM的输出并在未仔细验证的情况下安装软件包，攻击者的恶意代码将会在用户的系统上执行。