随着生成式人工智能技术的进步，青少年之间利用Deepfake技术制造虚假影像的现象日益普遍，法律对此显得措手不及。报道指出，这种技术滥用尤其针对女性，成为了一种新的图像性虐待形式。
去年10月，一名来自威斯康星州的13岁男孩使用同学庆祝成人礼的照片制作了Deepfake裸照并在Snapchat上分享。这种情况并非个例，近年来不断有学生利用Deepfake技术进行恶作剧或欺凌的案例出现。
虽然美国各州和华盛顿特区已经制定了法律来打击未经同意的亲密图像传播，但这些法律往往未能涵盖由人工智能生成的Deepfake影像。专家指出，未成年人往往成为这类滥用行为的实施者，法律对此的滞后可能导致受害者面临严重的心理健康问题。
根据民主与技术中心的调查，有15%的学生表示知道同学的AI生成的不雅影像，调查还显示，女性在这种Deepfake滥用中更易成为目标。