瑞典科学家创造了虚构眼疾bixonimania并上传伪造论文，成功诱导多个AI聊天机器人将其当作真实疾病进行传播。
最近在社交媒体上，一种名为bixonimania的新型眼疾引起了广泛关注。传闻称这种病是由于长时间盯着屏幕和接触蓝光引起的，听起来非常符合现代人的生活忧虑。然而，这种所谓的现代文明病其实根本不存在，它完全是一场针对人工智能的压力测试。
这场实验的幕后推手是瑞典哥德堡大学的医学研究员Almira Osmanovic Thunström。她的初衷很单纯，就是想看看能不能在AI的知识库之外，凭空创造出一种医疗状况。为了让这场戏演得逼真，她不仅虚构了病名，还撰写了两篇看起来非常专业的学术论文，并将它们上传到了学术服务器上。
这些论文中其实埋了不少荒诞的破绽。例如，文中煞有介事地感谢了星际舰队学院，甚至还引用了虚构的资金来源。但令人大跌眼镜的是，短短几周内，多个主流AI聊天机器人就吞下了这个诱饵。它们不仅把bixonimania当成真实的医学状况来描述，甚至开始有模有样地给用户提供症状清单、发病数据和治疗建议。
更有甚者，这种虚假信息还迅速渗透进了一些严肃的学术写作中。这暴露了当前AI系统的一个致命弱点：只要信息是以一种严谨、科学的语气呈现，AI往往会默认其为真，而不会去核实该事物在现实物理世界中是否真的存在。
虽然随着实验曝光，部分AI工具经过调整已经开始识别出这是个骗局，但它们的反应依然并不统一。研究人员指出，人类学术造假一直是个难题，但AI系统的参与让这个问题变得更加严峻。AI摄取和放大虚假研究的速度与规模，是任何个人造谣者都无法比拟的。
这次警告非常清晰，如果我们过度依赖AI来获取健康建议，这种对科学语气的盲目信任可能会产生真实而危险的后果。在海量信息爆发的时代，保持质疑和多方求证，依然是保护我们不被技术谎言误导的最后防线。
本文译自 moneycontrol，由 BALI 编辑发布。
