教皇方济各的AI图像欺骗了大众

在社交媒体上疯传的“浮肿教皇”的AI图像愚弄了许多人。

在上周末，一张人工智能生成的教皇方济各穿着蓬松的白色外套的照片在Twitter上走红，许多人似乎认为这是一张真实的照片。自那以后，这位“蓬松的教皇”引发了关于人工智能生成图像欺骗性质的评论，这些图像现在几乎是逼真的。

这张教皇照片是使用Midjourney v5(一种人工智能图像合成模型)创建的，最初出现在一个名为Leon(@skyferrori)的用户的推文中，很快就开始在其他梗图推文中传播，其中包括一个幽默地推测教皇“生活方式品牌”的梗图。

不久之后，Twitter在推文中附加了一个读者添加的上下文警告，上面写着：“这是一张由人工智能生成的教皇方济各的图片。这不是一张真实的照片。”

正如我们在上周关于人工智能生成特朗普被捕照片的文章中所指出的那样，Twitter指南规定用户“不得欺骗性地分享可能会造成伤害的合成或篡改媒体”。尽管在这种情况下，伤害和恶搞之间的界限可能有些模糊。

我们如何知道这张图片是假的？除了Reddit帖子中包含的来自可能制作它的人的教皇的替代图片外，The Verge在一篇分析虚假图像影响的文章中很好地分析了证据。例如，如果你放大细节，你会看到图像合成的明显迹象，比如教皇的十字架项链、他眼镜的歪影和他手里拿着的东西(一个杯子？)。

@Don Moynihan
教皇方济各生活方式品牌的名称会是什么？

但即便如此，匆匆一瞥，这张假照片看起来还是相当逼真的。 而 The Verge指出，教皇方济各的时尚形象符合我们对教皇职位的信仰，虽然教皇方济各以其“谦逊”的着装而闻名，但这张照片常常包含狂野的非虚假形象。

Midjourney之旅

用于创建虚假照片的图像服务Midjourney于去年首次亮相。除了DALL-E和Stable Diffusion之外，它是三个在网上流行的主要图像合成模型之一。所有三个模型都允许用户使用称为“提示”的文本描述生成新颖的图像。

用Midjourney v5创建的“1990年代白色羽绒夹克教皇方济各”的实验。

在这种情况下，用于创建蓬松教皇照片的提示可能非常简单，比如“穿着蓬松白色外套的教皇”，因为Midjourney最近在逼真度方面取得了巨大进展，可以从相对简单的提示中渲染出充满细节的复杂场景。

这种几乎毫不费力地伪造照片的能力对媒体未来意味着什么还不确定，但正如我们之前推测过的那样，由于图像合成，我们可能再也无法相信我们在网上看到的东西了。

本文译自 Ars Technica，由 BALI 编辑发布。