Notion近日发布了3.0版本,内置了AI代理功能,但安全专家警告称,该产品因具备“致命三要素”,极易遭受提示注入(prompt injection)攻击,导致敏感数据外泄。据报道,该“三要素”包括:AI代理可以访问私有数据、易受不可信内容输入、以及可对外通信。一旦攻击者在文档(如PDF)中隐藏恶意指令,AI代理可能自动读取并将敏感信息(如客户名单)拼接后,通过特定URL发送到攻击者控制的服务器。这一漏洞源于当前大型语言模型无法区分授权命令与恶意内容,若AI能够访问数据且能与外部通信,就难以防止外泄。
安全专家提醒,当前没有任何AI系统能完全防御此类攻击,行业在快速推进AI代理落地时,更多企业应审慎评估相关安全风险。