近日，据报道，AI角色扮演与图像生成平台SecretDesires.ai因云端存储设置不当，导致近两百万张包括女性毕业照、工作场所及社交媒体照片在内的图片和视频遭到外泄。此次泄露不仅让多位毫无知名度、网络踪迹甚微的普通女性受到影响，还曝光了许多人利用该平台的人脸替换功能，未经授权将他人照片生成高度露骨的AI色情影像。
不同于传统的“脱衣”软件，此次平台泄露显示用户通过AI将目标对象嵌入到高度露骨的虚拟色情场景中，并大范围散播相关输出内容。这一事件暴露了生成式AI在隐私保护和伦理上的巨大隐患，尤其对无辜女性造成严重伤害。