人工智能, 安全警示
AI生成的五角大楼爆炸的照片在网上引发了短暂恐慌
周一早上，一张显示五角大楼附近发生大爆炸的图片在 Twitter 上迅速传播，引发了一些人的恐慌和担忧。然而，这张图片并不是真实的，而是由AI生成的。
周一，有位用户在推特上发布了一张人工智能生成的图像，暗示五角大楼发生了一次大爆炸，这导致了短暂的混乱。它起源于一个名为“Bloomberg Feed”的经过验证的 Twitter 帐户，与著名的彭博媒体公司无关，并很快被揭露。然而，据《华盛顿邮报》报道，在它被揭穿之前，今日俄罗斯等大型账户已经散布了错误信息。
这张假图片描绘了一大团黑烟，旁边是一栋隐约让人想起五角大楼的建筑物，并在推特上写道：“华盛顿特区五角大楼大楼附近发生大爆炸——初步报告。” 经过仔细检查，地方当局确认该图像并非五角大楼。它看起来像一个相当草率的人工智能生成的图像，由 Stable Diffusion 等模型创建。
据《华盛顿邮报》报道，在 Twitter 暂停虚假的彭博社账户之前，它已经发布了 224000 条推文，但只有不到 1,000 名粉丝，目前尚不清楚由谁运营，也不清楚分享虚假图片背后的动机。除了 Bloomberg Feed 之外，其他分享虚假报告的账户还包括“Walter Bloomberg”和“Breaking Market News”，它们都与真正的彭博组织无关。
这一事件凸显了 AI 生成的图像可能在仓促共享的社交媒体领域以及 Twitter 上的付费验证系统中存在的潜在威胁。 3 月，用 Midjourney 制作的唐纳德·特朗普被捕的假照片广为流传。虽然照片上清楚地标明自己是假的，但由于在细节上上的真实性，它们引发了人们对误导性事实的恐惧。 同月，人工智能生成的教皇身着白色羽绒服的图像愚弄了许多人。
穿着蓬松大衣的教皇是一回事，但当有人在一条虚假推文中以美国国防部总部等政府为主题时，后果可能会更严重。除了 Twitter 之外，这条具有欺骗性的推文可能还影响了股市。《华盛顿邮报》称，推文传播后，道琼斯工业指数在四分钟内下跌了 85 点，但随后迅速反弹。
在推特的新主人埃隆·马斯克的领导下，推特的新政可能有利于虚假消息的传播。马斯克在接管后不久就解雇了内容审核团队，并在很大程度上实现了账户验证过程的自动化，将其转变为一个任何人都可以付费获得蓝色复选标记的系统。批评者认为，这种做法使该平台更容易受到错误信息的影响。
虽然由于细节不准确，当局很容易将爆炸照片识别为假照片，但 Midjourney 和 Stable Diffusion 等图像合成模型的存在意味着不再需要艺术技巧来创造令人信服的假货，降低进入门槛并为潜在的自动化造假打开大门。加上像 Twitter 这样的平台，意味着虚假信息的传播速度可能比事实核查的速度更快。
https://arstechnica.com/information-technology/2023/05/ai-generated-image-of-explosion-near-pentagon-goes-viral-sparks-brief-panic/