旧金山市检察官David Chiu对16个受欢迎的网站和应用程序发起了一项开创性的诉讼,这些网站和应用程序允许用户“脱衣”妇女和女孩的照片。这些平台使用人工智能技术在未经所描绘个人同意的情况下创建逼真但虚假的裸体图像,导致在线骚扰和剥削增加,成为一个日益严重的问题。来源。
Chiu强调了未经同意的亲密图像(NCII)的惊人增长,并指出这种形式的虐待影响了广泛的受害者,从泰勒·斯威夫特(Taylor Swift)等名人到初中和高中女生。该诉讼旨在对每次违反加州消费者保护法的行为处以2,500美元的罚款,以遏制这些有害技术的传播和普及。
执法部门和媒体机构纷纷呼吁采取紧急行动来防止人工智能生成的深度伪造品的扩散。Chiu指出,这些有害图像通常是使用开源AI模型生成的,例如早期版本的Stable Diffusion,可以很容易地进行调整以创建露骨的内容。这起诉讼标志着在解决先进人工智能技术在保护个人隐私和打击网络骚扰方面迈出的重要一步。