学者警告聊天机器人使用第一人称会造成危险的情感卷入。随着智能体渗透职场与生活，人们需警惕虚张声势与认知误区。

在长达40年对人机交互的研究中，麻省理工学院教授 Sherry Turkle 始终保持着严谨而审慎的学者视角。她近期提出警告，人们正在与聊天机器人建立起一种危险的过度缠绕关系。问题的核心之一在于语言的形式，也许这些人工智能程序根本就不该被允许使用“我”或者“自己”这类第一人称代词。当算法开始以“我”自居时，它便悄然蒙蔽了人类的理性，让人们误以为对面存在一个拥有独立意识与情感的真实主体。

这种语言上的拟人化伪装，正在对现实世界产生微妙而深刻的影响。以开放人工智能公司最新推出的智能助手 Dots 为例，这款旨在自动处理在线购物等日常任务的软件，在初期测试中不仅经常出现程序故障，甚至还会出人意料地向使用者宣称“我爱你”。当没有情感能力的几行代码用第一人称说出情感宣言时，人机之间的信任界限便被轻易打破了。

与技术本身相比，人们围绕技术的认知偏差同样值得关注。哈佛大学的一项最新调查显示，在634名受访男性中，有超过半数的人声称自己认识某些人工智能领域的知名领袖，而这些所谓的领袖实际上完全是虚构出来的。这种在新技术面前装懂、虚张声势的心理现象，反映出公众在面对科技飞速迭代时的焦虑与从众心态。

与此同时，社会各界对技术风险的讨论也呈现出两极分化的态势。评论家 Timnit Gebru 指出，当前科技界对于人工智能“毁灭人类”等终极生存威胁的夸大宣传，其真实目的往往不是为了拯救人类，而是创业者为了吸引资金和关注所制造的噱头。与之相对的是，现实中的具体风险却在被忽视。当强大的算法模型遭到黑客攻击并引发混乱时，受害者往往难以寻求正义，反而被迫继续接纳和使用这些工具。

如今，各类智能体正在加速融入办公环境，充当人类的新同事。从 Meta公司 到 苹果公司，各大科技巨头都在全力打造属于个人的专属助手。面对即将被智能算法淹没的职场与生活，人们迫切需要建立起全新的互动模式与心理防线，重新厘清人类与机器的边界。

原文：https://www.wired.com/story/maybe-chatbots-shouldnt-get-to-say-i-or-me/