在新泽西州一所高中，一名母亲和她14岁的女儿在人工智能生成的女孩和其他女同学的裸照被传播后，她呼吁更好地保护受害者。
在美国的另一边，官员们正在调查一起事件，涉及一名十几岁的男孩，据称他使用人工智能制作并传播其他学生的类似图像，这些学生也是十几岁的女孩，他们在华盛顿州西雅图郊区的一所高中就读。
这些令人不安的案件再次让人们关注到人工智能生成的露骨材料，这些材料绝大多数伤害妇女和儿童，并以前所未有的速度在网上蓬勃发展。根据独立研究员吉纳维芙·吴(Genevieve Oh)与美联社分享的一份分析报告，今年网上发布了超过14.3万个新的深度假视频，超过了其他任何一年的总和。
受影响的家庭正在敦促立法者为受害者实施强有力的保障措施，这些受害者的图像被新的人工智能模型或大量公开宣传其服务的应用程序和网站操纵。倡议者和一些法律专家还呼吁制定联邦法规，在全国范围内提供统一的保护，并向当前和潜在的犯罪者发出强有力的信息。
“我们在为我们的孩子而战，”多洛塔·马尼(Dorota Mani)说，她的女儿是纽约市外新泽西州郊区韦斯特菲尔德(Westfield)的受害者。“他们不是共和党人，也不是民主党人。他们不在乎。他们只是想被爱，他们想要安全。”
深度造假的问题并不新鲜，但专家表示，随着制造深度造假的技术变得更容易获得和使用，问题变得越来越严重。研究人员今年对人工智能生成的儿童性虐待材料的爆炸式增长发出了警告，这些材料使用真实受害者或虚拟角色的描述。今年6月，联邦调查局(FBI)警告称，它继续收到来自受害者的报告，其中既有未成年人，也有成年人，他们的照片或视频被用来制作露骨的内容，并在网上分享。
多年来，几个州通过了自己的法律，试图解决这个问题。德克萨斯州、明尼苏达州和纽约州今年通过了立法，将未经同意的深度色情定为刑事犯罪，此前弗吉尼亚州、佐治亚州和夏威夷州已经有了相关法律。一些州，如加利福尼亚和伊利诺斯州，只允许受害者在民事法庭起诉肇事者，要求赔偿损失，纽约和明尼苏达州也允许。
其他一些州也在考虑自己的立法，包括新泽西州，该州正在制定一项法案，禁止深度虚假色情内容，并对传播色情内容的人处以监禁、罚款或两者兼施的惩罚。
今年早些时候提出这项立法的共和党参议员克里斯汀·科拉多(Kristin Corrado)说，她是在读到一篇文章后决定参与进来的，文章说有人试图利用前伴侣的形象制作深度伪造的色情作品，以逃避报复色情法。她说，该法案搁置了几个月，但很有可能会通过，尤其是在韦斯特菲尔德事件引起人们关注的情况下。
韦斯特菲尔德高中的发言人玛丽·安·麦克甘说，这一事件发生在今年夏天，并于10月20日引起了该校的注意。McGann没有提供人工智能生成的图片是如何传播的细节，但其中一个女孩的母亲Mani说，她接到学校的电话，通知她的裸照是用一些女学生的脸制作的，然后在社交媒体应用Snapchat上的一群朋友中传播。
校方以对涉及学生的事项保密为由，尚未证实有任何纪律处分。韦斯特菲尔德警方和联合县检察官办公室没有回复置评请求。
华盛顿州这起事件发生在去年10月，目前正在调查中，细节尚未披露。Issaquah警察局局长保拉·施万(Paula Schwan)表示，警方获得了搜查令。伊萨夸学区在接受采访时表示，由于正在进行调查，他们无法讨论具体细节，但表示学生之间的欺凌、骚扰或虐待是“完全不可接受的”。
乔治·华盛顿大学(George Washington University)法学教授玛丽·安妮·弗兰克斯(Mary Anne Franks)说，如果官员对新泽西州的这起事件提起诉讼，可能已经适用了禁止对未成年人进性剥削的州法律。弗兰克斯领导着一个旨在打击网络侵权行为的组织——网络民权倡议组织(Cyber Civil Rights Initiative)。但她说，在类似的情况下，这些保护措施并不适用于成年人。
弗兰克斯说，最好的解决办法是制定一项联邦法律，在全国范围内提供一致的保护，并惩罚那些从产品和应用程序中获利的可疑组织，这些产品和应用程序很容易让任何人进行深度伪造。
去年10月，美国总统乔·拜登(Joe Biden)签署了一项行政命令，其中包括禁止使用生成式人工智能制作儿童性虐待材料或未经同意的“真实个人的亲密图像”。该命令还指示联邦政府发布指导，对人工智能生成的内容进行标签和水印，以帮助将其与真实材料区分开来。
代表韦斯特菲尔德的共和党众议员小汤姆·基恩(Tom Kean Jr.)以韦斯特菲尔德事件为例，提出了一项法案，要求开发商对人工智能生成的内容进行披露。纽约州民主党众议员乔·莫雷尔(Joe Morelle)提出的另一项联邦法案将把在网上分享深度伪造的色情图片定为非法行为。但由于国会僵局，该法案没有取得进展。
