旧金山市检察官David Chiu（左） 在2018的一次新闻发布会上讲话，年对着麦克风讲话，右为Xavier Becerra（Rich Pedroncelli / AP）
【美洲华联社8月15日旧金山讯】旧金山市检察官 David Chiu 周四宣布，他的办公室正在起诉 6个人工智能驱动的“脱衣”网站的运营商，这些网站帮助用户制作和分发女性和女孩的深度伪造裸照。
市政府官员称，这是首起此类诉讼，指控这些网站的运营商违反了禁止深度伪造色情、报复性色情和儿童色情的州和联邦法律，以及加州的不正当竞争法。周四公布的诉讼副本中，这些网站的名称已被删除。
Chiu 的办公室尚未确定许多网站的所有者，但官员表示，他们希望找到他们的名字并追究他们的责任。Chiu 说，诉讼有两个目标：关闭这些网站，并对这种形式的“性虐待”发出警告。
在这些网站上，用户上传穿着整齐的真人照片，然后人工智能修改图像以模拟该人脱衣的样子。 Chiu在周四上午的新闻发布会上说，这些网站在未经照片中人物同意的情况下制作“色情”图片。
根据诉讼，其中一个网站宣传这些图片是非自愿的，并表示：“想象一下，浪费时间带她出去约会，而你只需使用 [删除的网站名称] 就可以得到她的裸照。”
开源 AI 模型的可用性意味着任何人都可以访问和调整 AI 驱动的引擎以达到自己的目的。结果之一是：网站和应用程序可以从头开始生成深度伪造的裸照或以逼真的方式“裸体化”现有图像，这通常需要付费。
今年1月，泰勒·斯威夫特（ Taylor Swift）的假裸照在网上流传，Deepfake 应用成为头条新闻，但在这位流行歌星之前和之后，许多其他远没有那么出名的人也成为了受害者。Chiu说：“这些照片的泛滥利用了全球数量惊人的女性和女孩”，从名人到中学生。
通过调查，市检察官办公室发现，仅在2024年的前6个月，相关网站的访问量就超过2 亿次。
旧金山首席副市检察官 Yvonne R. Meré 说，一旦图片上线，受害者很难确定哪些网站被用来“裸化”他们的图片，因为这些图片“没有任何独特或可识别的标记将你链接回网站”。
受害者也很难从互联网上删除这些图片。
今年早些时候，5名比佛利山庄八年级学生因制作和分享16名8年级女生的深度伪造裸照而被开除，这些照片将女生的脸叠加在人工智能生成的身体上。
Chiu的办公室表示，在加州、华盛顿州和新泽西州的其他学校也发生过类似事件。Chiu 说，“这些图片被用来欺凌、羞辱和威胁妇女和女孩，受害者的声誉、心理健康、自主权丧失都受到了毁灭性的影响，在某些情况下，甚至导致个人产生自杀倾向。”