AI深度伪造技术滥用导致网络红人形象被盗用造假，不仅严重破坏创作者的商业信任，也暴露了社交平台在治理上的缺失。
生活方式博客创作者 Emily Schuman 在 Instagram 上拥有超过50万粉丝，今年早些时候，她赫然在广告中看到了“自己”。广告里的她举着盖拉远程医疗公司的 GLP-1药物，而她本人不仅从未听过这家公司，也从未接过该合作。这起事件源于她多年前在车里拍摄并发布的一张自拍，被盗用后通过数字手段篡改。随后她更发现，这只是噩梦的开始，网络上接连出现了利用 AI 技术生成的换脸视频，分别替梅罗达化妆品公司和超级能力血检公司推广产品。
这种未经授权的肖像盗用令人感到侵犯。虽然超级能力血检公司的 CEO Max Marchione 澄清该帖子系诈骗分子所为并已举报，但生成式 AI 确实让虚假内容制造变得更加轻而易举。网红创作者因为在网络上留下了成百上千小时的视频与图片，极易成为 AI 模型的训练素材。这不仅构成了新型的职业威胁，更是在直接摧毁他们赖以生存的个人商业信誉。正如数据与社会研究所研究主管 Alice Marwick 所指出的，品牌就是网红的生命线，一旦品牌形象受损，整个商业生涯都会遭受重创。
从冒充 Elon Musk 推广虚假加密货币，到盗用普通创作者图片制作广告，深度伪造诈骗的范围极其广泛。根据网络安全公司 Surfshark 研究团队的调查，2026年全球消费者因深度伪造诈骗损失高达37亿美元，其中社交平台冒充行为占了总损失的约50%。除了 Taylor Swift、Oprah Winfrey、Kim Kardashian、Gwyneth Paltrow 和 Tom Hanks 等巨星未能幸免，美妆博主 Arielle Lorre、时尚创作者 Jessi Caparella(其 Pinterest 链接被恶意重定向)以及 OnlyFans 创作者 Elaina St James 也都深受其害。这些伪造内容不仅稀释了创作者的个人价值，更严重伤害了粉丝的信任。
与此同时，虚拟网红的兴起也推动了 AI 营销的泛滥。数字应用营销咨询公司的研究显示，2026年虚拟网红占品牌总支出的4%，达到13.7亿美元。虽然虚拟人缺乏真人的真实感，但其成本低廉且可无限定制，因而备受品牌青睐。部分品牌为了节省成本，甚至直接越界使用深度伪造技术。时装博主 Molly Tranchin(账号为 FashionVeggie)就曾因艾比内衣公司擅自将她拍摄的遮挡胸部视频篡改并发布透视内衣视频，而向法院提起诉讼。
面对铺天盖地的伪造内容，创作者们维权维艰。Emily Schuman 和粉丝向平台举报后，盖拉远程医疗公司的广告经过数周交涉才被下架，而梅罗达化妆品公司的广告依然在 Instagram 上传播。虽然麦塔公司和 TikTok 明确禁止利用 AI 复制个人身份，但平台的精准推荐算法却在客观上助长了诈骗广告的扩散。Reuters在2025年的调查指出，麦塔公司在2024年靠推广诈骗或违禁品的广告赚取了约160亿美元，占其总收入的约10%。研究人员指出，平台从诈骗广告中获利丰厚，缺乏治理生态的动力，这使得创作者陷入了既消耗金钱时间又损伤名誉的受害困境。
原文：https://www.theguardian.com/technology/2026/sep/12/deepfakes-wrecking-influencers-credibility