最新研究发现,网络上用于制作非自愿性、性侵犯性质深度伪造(deepfake)图片的工具正在社交媒体和主流搜索引擎上迅速传播。据Institute for Strategic Dialogue发布的报告,研究人员分析了31个提供此类合成私密影像工具的网站,这些网站的月访问量合计高达2100万,部分月份甚至达到了400万访问量。
调查指出,在X、Reddit、Bluesky、YouTube、Tumblr、Instagram、Facebook等社交平台,以及多个论坛和博客上,相关工具频繁被提及,仅2020年6月至2025年7月间,就有超过41万条关键词提及,其中七成以上集中在X平台,而且大量推文疑似由机器人自动生成,流量异常集中且风格高度统一。
不仅如此,通过Google、Yahoo、Bing等主流搜索引擎,仅需输入诸如“deepnude”“nudify”“undress app”等关键词,用户便能在搜索结果前20条中轻易找到这些SIIA工具。而在Bing上,所有相关关键词的搜索首位均为此类工具。
研究指出,不当曝光和讨论这些骚扰工具,反而可能引发新的受害者和更严重的骚扰现象。虽然如X等平台有相关限制政策,但恶意deepfake工具的传播与广告仍十分猖獗,呼吁更多平台和技术公司加强监管。