人工智能生成的泰勒·斯威夫特(Taylor Swift)裸照出现在互联网上，而且没有迹象表明它们会很快停止。
这些照片似乎是在一个名人裸体网站上发布的，该网站在每张照片的角落里都加了水印，随后这些照片在社交媒体平台上迅速传播开来。与往常一样，这些平台背后的科技公司正在努力打击滥用行为。
在被亿万富翁埃隆·马斯克收购之前，x曾被称为Twitter，最初发布人工智能裸照的账户已被封号。但是，通过快速搜索平台，这些图片仍然可以广泛地获得，就像各种“裸体”应用程序一样，用户可以通过生成人工智能虚拟地脱光女性的衣服。周四下午，Swift的图片仍然被各种带蓝勾的账户广泛分享——蓝勾是一个毫无意义的标签，过去用来表示经过验证的账户，但现在任何付费订阅马斯克平台的人都可以获得这个标签。
考虑到马斯克在收购该公司后几乎解雇了该平台的审核人员，这并不特别令人惊讶。其他平台也纷纷效仿，取消了负责打击仇恨言论和错误信息的员工职位。X没有回应Motherboard的评论请求，除了它的自动模板电子邮件回复。
Reddit的一位发言人告诉Motherboard, Reddit在2018年首次禁止未经同意的裸照深度造假后，也一直在删除帖子，并对分享这些图片的用户进行管理。该网站使用自动化工具和人工审查的组合来完成这一任务;它似乎在很大程度上起了作用，尽管Motherboard发现一些图片在小的子reddit上被分享。据报道，这些照片也在Instagram上流传;Motherboard在搜索中找不到病毒式传播的人工智能裸照的例子，但确实发现了其他以斯威夫特为主角的色情、非裸照深度造假。meta在一份声明中表示，它使用自动化工具禁止其平台上出现露骨的色情图片。“这些内容违反了我们的政策，我们正在将其从我们的平台上删除，并对发布这些内容的账户采取行动，”meta发言人说。“我们将继续监控，如果我们发现任何其他违规内容，我们将删除它并采取适当行动。”
这一切都是显而易见的。泰勒·斯威夫特(Taylor Swift)可能是本世纪最引人注目的女性，所以这位排名榜首的流行歌手成为人工智能最明显的攻击目标也就说得通了。上个月，抖音上的一个病毒式骗局模仿斯威夫特的声音和长相，为免费炊具套装做虚假广告。斯威夫特的品牌太大，太无所不在了，不可能不被那些公开幻想与女明星发生性关系的网络小妖精玷污。
这对其他不太出名的女性和女性形象的人来说也不是什么好兆头。从很多方面来说，对于那些身体经常被性化和利用的人来说，这是一场噩梦，尤其是对那些最有可能被人工智能裸体伤害的青少年来说。最近，新泽西州的少女们报告说，恶霸们开始在学校里传播人工智能生成的她们的裸照。此外，还发生了其他多起虐待者使用“裸体”应用程序生成同学和网红的露骨照片的事件。
未经同意的人工智能色情内容令人悲伤，但完全可以预见，这只是人工智能生成内容兴起的一个明显后果，这些内容是由大公司促成的，这些大公司从人工智能工具中获利，却几乎没有责任。事实上，深度造假的起源显然是为了创造真实女性的人工智能色情，这是该技术DNA中一个尚未被切除的恶性毒株。
OpenAI、meta和微软等公司试图通过过滤器阻止用户生成滥用和非法内容来减少有害内容的产生。但事实证明，这是一场猫捉老鼠的游戏，很大程度上是因为这些系统本身是在数十亿张从互联网上获取的非自愿图像上进行训练的。例如，用于训练人工智能系统的最大数据集之一LAION最近被发现包含3000多张儿童性虐待的露骨图像。人工智能研究人员对此完全没有感到惊讶，他们多年来一直在警告这一点。此外，人工智能模型并不稀缺，只要有一点技术知识，就很容易对现有模型进行调整，从而产生各种滥用和非法图像。
最近，美国各地的立法者都提出了法案，明确规定制作未经双方同意的人工智能裸体是非法的。但专家指出，这些法案似乎主要是为了保护像斯威夫特这样的富有名人的知识产权，这些法律是否能保护我们其他人，还有待观察。
Jordan Pearson对本文的报道有贡献。
