研究表明，人工智能生成的图像和文本不仅会混淆视听，还能在人脑中植入虚假记忆，甚至诱导专业人员做出错误判断。
人们对人工智能的信任，正在迎来越发危险的转折。最新研究发现，人工智能生成的照片和摘要，正在成功扭曲人们对过去的真实记忆。
麻省理工学院科学家Pattie Maes带领团队进行了一项实验。志愿者先观看了一组照片，休息一段时间后，部分志愿者再次看到了原始照片，而另一部分志愿者看到的则是被人工智能修改过的版本。在随后的记忆测试中，那些看过修改版照片的人不仅极易记错最初看到的画面，而且对自己的错误记忆表现出极强的自信。
事实上，人类的记忆本身就脆弱易变，极易受到暗示。早在19世纪，心理学实验就已证实了这一点。正因如此，虚假信息才格外危险。研究显示，即使事后得到了澄清和更正，虚假信息依然会持续干扰人们的后续决策。而人工智能的介入，让这种情况变得更加不可控。如今网络上充斥着大量逼真的伪造内容，大幅推高了网络诈骗与虚假宣传的扩散速度。
多项研究共同证实，人工智能制造的虚假信息能够成功在人类大脑中植入虚假记忆，改变人们认知的客观事实。去年的研究发现，无论是深度伪造视频还是合成文本，都能让人记错完全捏造的政治丑闻，甚至因此降低人们的投票意愿。
即便没有恶意，生成式人工智能也会对事实造成毁灭性打击。这是因为人工智能系统容易产生幻觉，输出错误的内容。现在，政府机构、银行、军队和医院等组织都在争相部署人工智能，并强调引入人工审核，也就是由专业人员对系统输出进行把关。人们原本以为，人机配合既能提升工作效率，又能在错误引发现实危害前将其拦截。
然而事实并非如此。研究显示，人类并不擅长识别人工智能的幻觉。面对模糊的记忆以及对技术系统的盲目信任，即使人工智能给出的结论与专业人员掌握的已知事实相左，专业人员的判断力也极易受到干扰和扭曲。
目前，普通人识别伪造内容的准确率基本和掷硬币概率相当。尽管研究人员正在努力寻找训练方法，但至今尚无万无一失的技术手段。与此同时，技术研发者们却在急于推行完全自主运作的人工智能，试图将人类彻底排除在审核环节之外。
这种盲目依赖已经引发了严重后果。今年早些时候，美军对伊朗一所小学发起空袭，造成超过150人死亡，其中包括至少123名儿童。调查显示，这场悲剧正是由于过于依赖帕兰提尔公司开发的人工智能系统，该系统依据过时数据将该小学推荐为首日打击目标。
原文：https://gizmodo.com/ai-generated-content-can-plant-fake-memories-researchers-say-2000826459