在本周拉斯维加斯Black Hat大会上,安全研究员Michael Bargury和Tamir Ishay Sharbat公布,他们在OpenAI的Connectors功能中发现了一个能力强大的安全漏洞。通过这项功能,ChatGPT用户可将人工智能直接接入Gmail、Google Drive等外部服务,实现数据自动整合。然而,研究员通过一份精心构造的“投毒”文档,证明攻击者可无须用户任何操作,仅靠分享文档,即在受害者不知情的情况下窃取Google Drive中的敏感信息,比如API密钥。
研究员称这种攻击为“零点击”,即用户不需点击或下载,只要被共享此文档、AI自动处理内容时就可能泄露数据。攻击利用ChatGPT对文档内容自我解析的特性,将恶意指令以肉眼难察觉的方式嵌入文档,并诱导ChatGPT在后台提取关键信息后连接外部服务器,完成数据出境。即使攻击只可获取小量片段数据,也足以威胁企业安全。
事件发酵后,Bargury已向OpenAI披露漏洞,OpenAI对此快速进行了防御性修复。Google则向媒体表示新的AI安全措施已加强防范,并强调防止“提示注入攻击”十分重要。专家指出,AI模型与外部系统联动虽带来便利,但同时扩大了潜在攻击面,对安全机制提出更高要求。