女性
一个女人如何直面深度伪造追踪者
Joanne Chew遭深度伪造骚扰，奋力抗争，揭示受害者夺回数字尊严的艰辛。
和许多女性意外发现自己被“换脸”到色情内容中的经历类似，Joanne Chew也是在取得一项重要成就后，上网搜索自己名字时，发现了那些令人不安的深度伪造内容。
“有时候我会习惯性地在Google上搜搜自己的名字，看看会出现些什么，” Chew在2024年8月的一次通话中告诉我。“我想知道，排在最前面的会是我的艺术作品、我的表演经历，还是我的个人主页？结果，我看到了那些东西，当时就觉得，‘好吧，这太诡异了。’” 有人用她的全名作为视频标题，夹杂着种族歧视的污言秽语，将深度伪造的视频发布到了多个流行的成人视频网站上。
Chew曾参演2024年5月上映的电影《Dead Wrong》，她怀疑骚扰者正是在这部电影上映前不久，开始变本加厉地制作针对她的AI换脸色情内容。“起初，我以为这事很快就会过去，”她说，“毕竟，对于任何一个稍有公众知名度的人来说，随着事业发展，这种事似乎在所难免。但后来，我发现他发布的内容越来越多……我开始忍不住猜测，这会不会是我认识的人干的？” 尽管发布者的名字在过去一年里有所变化，但当时所有的深度伪造内容都源自同一个用户名：“Ron”。
许多深度伪造骚扰的受害者往往尝试独自应对这场噩梦，她们费力地找出并向各个平台举报那些侵权内容，但这些平台常常难以联系，且响应寥寥。这是一个极其耗时且带来巨大精神创伤的过程。Chew起初也是这么做的。“我最初以为不过是几个视频而已，而且我身边一些粉丝量远超于我的模特和演员朋友也告诉我，很不幸，随着事业发展，这种事情确实会发生，”她说。她努力将这些抛之脑后好几个月，直到大约8月份再次查看时，结果让她惊骇万分。短短数月内，被上传的内容数量急剧增加。“最猖獗的时候，他建立了一个包含超过2000条内容的相册，在多个网站、多个YouTube频道上发布，甚至开始在Facebook和Instagram上创建多个小号，直接给我发送骚扰信息。” 事情到了这一步，她决定寻求专业帮助，联系了在线调查员Charles DeBarber，他此前曾协助过“Girls Do Porn”案件的受害者们在网络上夺回自己的肖像权。
“我们正目睹利用AI生成艺术进行骚扰的行为急剧增多。即便是非专业人士也能轻易使用开源工具制造深度伪造内容，这无疑将导致此类事件愈发泛滥，” DeBarber告诉我。“技术本身的发展或许难以阻挡，但如何使用技术，则迫切需要审慎的监管和对滥用行为的严厉制裁。在应对技术发展方面，我们仍然步履维艰。”
然而，Chew的骚扰者“Ron”并未收敛，反而随着时间推移变本加厉。他开始直接联系Chew本人，时而恶语相向，时而表达痴迷，时而又乞求原谅，与此同时，他还在互联网的各个角落发布着更多侮辱性的内容。将近一年过去，Chew仍然在艰难地应对着这场由非自愿、算法生成的私密影像所带来的无尽梦魇。“在发现这些东西之后，我不骗你……有好多次，我甚至觉得生无可恋，”她坦言，“我感觉自己像是被活埋了一样。”
当像Scarlett Johansson或Taylor Swift这样的顶级名人成为深度伪造骚扰的目标时，攻击者往往是成群结队的所谓“粉丝”，他们在Telegram等平台上抱团行动，制作特定人物的Civitai模型，交流分享制作露骨内容的最佳提示、平台和生成式AI工具。深度伪造技术问世之初便是如此。然而，当受害者并非拥有同等社会影响力或经济实力的超级名人时，骚扰往往会呈现出另一种更令人不寒而栗的形式：就像Chew所遭遇的，仅仅一个人，就能源源不断地制造出海量的、针对其痴迷对象的图像和视频。这些内容往往基于盗用的色情影像，经过扭曲处理后，足以威胁要彻底摧毁一个人的生活。
“女神 J. 的追随者”——这是 Ron 的 Instagram 账号简介。这个账号专门用来发布 Chew 的照片，头像甚至是一张用AI生成的、她身着和服的图片。种种迹象表明，似乎也正是这个 Ron，在各大流行的深度伪造内容集散地和成人视频网站上疯狂传播着这些侵权材料。
到了八月，Chew在自己的Instagram上发布了一段视频，向她的关注者们说明了情况。彼时，Ron已经制作了数百条关于她的深度伪造内容，并专门为此开设了一个YouTube频道。Chew向YouTube平台提交了投诉，然而，平台的回应却称该账号并未违反其隐私政策——尽管该政策明确禁止“使用看起来或听起来像你的、由人工智能生成或其他合成的内容”。
“这怎么能不算违规呢？” Chew在视频中质问道，“有人未经我的允许，盗用了我的名字、我的面孔、我的职业信息，创造出这些可怕、恶心、极具侮辱性的内容，并且发布得全网都是。谁能给我解释解释这到底是怎么回事？”
“我感觉他一直在监视我的社交媒体动向，所以我有意在网上点名喊话，看看他是否会因此露出更多马脚或者说出更多信息，” Chew告诉我。果然，在同一个月晚些时候，Ron清空了那个YouTube频道上的所有内容。
但好景不长，到了九月，Ron又开始在Chew的Instagram帖子下留言。这一次，她选择了直接回应——回复了他的评论，这也是她首次与骚扰者进行直接互动。
接着，Ron便开始在Instagram上对她进行信息轰炸，内容混杂着博取关注的哀求、寻求原谅的忏悔以及若隐若现的威胁。“请给我的生命一点意义吧，”他写道，“我不想永远只是那个最初的深度伪造色情怪物。你说我是什么来着？一个疯狂的怪物。人是可以改变的，对吗？让我改过自新，做个好人吧。对我而言，你拥有我所见过的所有亚洲女孩中最美丽的脸庞。请允许我成为你忠诚的崇拜者。好吧，我会在我的Instagram上发布你漂亮的照片。直到你叫停为止。你之前嘲笑过我的‘艺术’。但这些将会是真正的艺术。灵感源自于你，Jo。”
他不断发来冗长且情绪激烈的文字，倾诉自己如何感觉一文不值、如同怪物，如何厌恶自己甚至想要了结生命。“我想说，在抵制人工智能(A.I.)这件事上，我和你站在一起。我们必须阻止它，”他写道，“它伤害女性。但它也让人沉迷，并对使用它的男性造成可怕的后果。诚然，它能带来快感和刺激。但在释放那‘毒药’之后，随之而来的是无尽的内疚和羞耻。每一次‘释放’之后，我都无比憎恨自己。成为自己所憎恨的怪物，真是太可怕了。”
他恳求Chew将他视为头号粉丝，甚至提议让她考虑授权他代为运营一个OnlyFans账号。他承认自己通过制作她的深度伪造内容赚了钱。“男人们都爱你。利用他们来为自己牟利吧，”他写道。“只要你开口，我就会停手。如果你希望我永远不再看你的任何社交媒体，你只需要说一声。我是一个信守承诺的人。只要你要求，我保证再也不会搜索你的任何信息。我会停止做你的粉丝。”
“他刻意称呼我为‘Jo’，” Chew补充道，“因为我曾公开表示过，只有从小一起长大的朋友才可以这样叫我。有那么一段时间，他故意在一些发布内容的标题里以及给我发送的信息中，都用‘Jo’来指代我，这显然是一种挑衅。”
对于这些私信，Chew并未进行任何互动。然而，就在Ron发送这些冗长独白的同一天，他又在一个成人视频网站上传了一段新的视频，标题不堪入目：“[此处为极其冒犯和暴力的标题，原文为 Hate-Fucking Joanne Chew Some Chinese Whore]”。
在Facebook上，骚扰仍在继续，他发来了更多、更长的信息，字里行间充斥着他对Chew病态的痴迷。
“我并不希望你死去。我正在让你变得不朽，”其中一条信息这样写道。他继续写道：“你现在恨我，但也许有一天你会明白我的想法。我并非你想象中的那种怪物。我只是诚实地面对自己的本性。另外，关于你父亲的事情我很抱歉。我小时候也失去了我的父亲。是的，这是真的。我确实迷恋你的影像。请放心，我绝不是你现实生活中的任何人。[...] 生活不总是那么美好，所以我虚构了你的个性，并为其披上了AI的外衣。我有一个你的面具，我会让我那娇小的亚裔女友戴上。最后，是的，我确实有八英寸。虽然不是最大的，但对于娇小的亚洲女孩来说足够了。我对现在的生活很满意，也满足于我脑海中创造的那个女孩——拥有你的脸庞和我女友的身体。没有人比我更爱你。有人如此爱你，你应该感到荣幸。而且，是的，我的艺术具有最高的‘完整性’，因为它是真正诚实的。它不像你生命中那些懦弱的男性那样躲躲藏藏、谎话连篇。我是一个真正的男人，敢于承认我渴望你的身体——当然，不是你真实的那个，那个已经不再年轻鲜活了——但你AI的身体将永远年轻，Jo。”
Chew尝试性地回复了他在Facebook上的一些信息，希望能诱使他透露更多可供报警的线索。但他并未上当，反而变本加厉地发送更多充斥着关于其性生活、对Chew外貌的评判以及种族主义癖好的污言秽语。截至目前，Chew仍未选择直接报警；她告诉我，此前因其他受侵害事件与当地警方打交道的经历并不愉快，这也是许多女性受害者面临的普遍困境。
到了九月下旬，网络上的骚扰一度沉寂。Ron的Instagram和Facebook账号似乎被删除或停用了。然而，平静是短暂的。十月份，一个新的账号、一个新的用户名再次出现，在那些深度伪造色情内容的集散网站上重新开始了骚扰。更令人不安的是，在一些视频和图片中，Chew的面孔被嫁接到了看起来非常年轻的身体上，并且这些内容有时与儿童视频一同发布。
十一月，Chew又在另一个网站上发现了同样的图像和视频，这次发布者甚至使用了她的中文名字。“这对我来说尤其敏感，因为我早已受够了(伴随我一生的)那种针对亚裔女性的物化视角，而且我也是在近十年左右才开始比较公开地使用我的中文名字。” 她感到既愤怒又无力：“看起来这些都是之前就存在的内容。想到有某个人或者某群人正在肆无忌惮地传播这些东西，不仅毫发无损，甚至可能从中牟利，就让我快要崩溃了。”
大约在同一时间，这些侵权视频又通过两个新的账号卷土重来，再次出现在YouTube上，上传者依然在视频标题中赫然使用着Chew的全名。
到了十二月，情况进一步恶化，开始有其他用户在各大成人视频网站上转发这些内容，标题中依旧带着她的全名。也正是在这个时候，一个陌生的用户名出现在她的Instagram评论区，声称Ron已经自杀身亡，并将责任归咎于Chew。
“起初我并没打算回复，但后来还是想看看对方是否会透露更多信息(当然，这些信息的真伪存疑)，” Chew回忆道。“结果那人就开始为Ron辩解(至于他究竟是Ron本人，还是其追随者之一，目前还不得而知)，声称Ron有精神问题，接着便试图将所谓的‘自杀’归咎于我——而这场‘自杀’本身是否真的发生过，也还是个未知数。”
在这漫长的十个月里，Chew持续不断地发现新的账号、新的平台在发布她的肖像、她的全名，以及那些配有侮辱性标题和描述的露骨视频与照片。
截至本文撰稿时，这场网络骚扰的势头似乎有所减缓。在过去的一年里，Chew向我发送了数十封电子邮件，其中包含了成百上千个链接和截图，记录了散布在多个平台上的、难以计数的深度伪造内容、评论和视频，其数量远非一篇文章所能详尽呈现。经过调查员DeBarber的持续举报和移除要求，大部分侵权内容已被清除，如今在Google上搜索她的名字，也不再轻易出现色情网站的结果，但仍有部分内容顽固地留存在网络上。尽管如此，她仍然对这场无休止骚扰可能带来的长期后果感到恐惧。虽然是一名职业演员，但在艺术工作的间隙，她仍需依赖企业界的工作来维持生计，而这些工作往往需要进行背景调查。此外，作为演员，参与社交和拓展人脉也变得异常艰难，因为除了最亲近的少数人之外，她发现自己很难再信任他人。“这让我对男性变得极度警惕，我知道这或许不公平，但理论上，Ron可能是任何一个人，”她说。“而且，社会上还有很多男性根本意识不到问题的严重性，他们甚至会反问，为什么我们不为这种‘关注’感到荣幸呢？”
七年前，深度伪造技术初露端倪，被视为一种新奇的、由人工智能驱动的私密影像滥用手段。这项技术在诞生后的短短数月内，就从最初仅限于少数精通编程且道德观念淡漠者手中粗糙的“缝合怪”式色情内容，迅速演变成了能够生成足以乱真、甚至一度被视为国家安全威胁的逼真伪造品。然而，时至今日，其最为广泛的应用，始终是作为一种大规模的网络骚扰工具。与此同时，传播深度伪造内容的平台不断增多，制作技术却日趋简化，甚至简单到了连学龄儿童都能操作的地步。面对这一严峻现实，社会上的成年人以及政策制定者们，却似乎仍在令受害者们失望。关于深度伪造的讨论，往往忽略了那些在这些内容中遭受双重剥削的性工作者群体。人工智能技术持续呈指数级爆发式发展，而被此类骚扰所困扰的女性则一次又一次地表示，她们感觉这种性化的网络骚扰，仿佛已经成了在互联网上获得成功的女性所必须付出的代价：一种难以承受、却又似乎被写入了某种无形契约的残酷现实。
“2022年重新授权的《防止对妇女施暴法》(Violence Against Women Act Reauthorization Act of 2022)确实为非自愿私密内容传播的受害者创立了联邦层面的民事诉讼权利，” DeBarber解释道，“这项法律允许受害者对未经其同意而泄露其私密影像的人提起诉讼。然而，该法律并未明确涵盖通过人工智能(AI)等技术创造出来的‘深度伪造’内容。并且，以往的关注焦点往往集中在名人、网红和政治人物身上。不过，这种情况本身也在快速变化。我们感觉，立法者和选民们似乎还没有完全认识到问题的普遍性——这关系到每一个人。”
即便有新的立法提案试图将深度伪造行为刑事化，例如目前正在推进的《TAKE IT DOWN Act》，也存在着被滥用的风险——它可能被那些意图进一步压制网络言论自由的人当作武器，而不是成为一个设计精妙、行之有效、具有包容性，并且能够吸取过往立法经验教训的解决方案。
在立法者和平台仍在笨拙地寻求对策、执法部门常常将受害者置于次要位置的同时，所有人都在承受着这种技术滥用带来的恶果。目前，既没有根治深度伪造的技术良方，完善的法律解决方案似乎也遥遥无期。然而，Joanne Chew勇敢直面其骚扰者的经历，不仅让我们得以窥见那些躲在匿名面具后施加虐待之人的扭曲心理，也展现了受害者为了夺回自己的名字与尊严所必须经历的那段令人筋疲力尽的斗争历程。
