BBC 调查发现,大量看似由英国爱国者发布的 AI 生成视频,实际上来自斯里兰卡、越南和伊朗等国,利用反移民内容获取流量和影响力。
一个名为"伟大的英国人民"的 Facebook 页面,最新视频展示一位英国老人含泪抱怨养老金,获得了 130 万次观看。但 BBC 调查发现,这个账号实际上由斯里兰卡人运营。
这只是冰山一角。大量看似由英国爱国者发布的 AI 生成视频,实际创作者遍布斯里兰卡、美国、越南、马尔代夫甚至伊朗和阿联酋。这些账号制造并分享反移民的 AI 内容,每条视频都能获得数十万甚至数百万次播放。
视频内容极具煽动性:AI 生成英国下议院被穿传统阿拉伯服装的人占据、实施伊斯兰教法的场景;AI 生成从行人视角拍摄的英国城市街景,街道肮脏、垃圾遍地,到处是穿传统伊斯兰服装的人。同样的手法也被用来描绘纽约、华盛顿和欧洲城市。
研究者发现了两类驱动力。伦敦市长 Sadiq Khan 说:"一方面是国家级行为者,我们看到了俄罗斯和中国活动的证据,也有极右翼支持者。另一方面是个人和公司试图从分裂中获利。"在英国的其他记者发现,这些账号有时会互相配合,协同推送同一政治议程。
剑桥大学的 Sander van der Linden 教授指出,"虚假信息雇佣产业"正在壮大,付费演员和网红假装成普通公民制造虚假共识。研究显示,公众识别 AI 造假的能力并不高,准确率只有约 55%,而且人们往往高估自己的鉴别能力。更令人担忧的是,看到越多 AI 内容,人们就越难以分辨真假,也就越容易不信任所有内容。
伦敦市长说:"我担心的是,正派人开始相信这些谎言,相信伦敦正在衰落的反乌托邦形象,认为我们是一座危险城市,没有法律和秩序。"两个自称内容创作者的年轻人否认有政治动机,声称他们的目的是"告知人们我们认为未来可能发生的事情"。