人工智能
当电脑占有了人体，人工智能也要看脸
# 鸡笃 投递译稿
当电脑控制了一个人的身体时会发生什么？在最近的一个奇怪实验里，笔者就见识到了这种傀儡一般的“回声生化人”，提前领略了与人工智能共存的未来。
[-]
光看外表，Sophia只不过是一个平平无奇的伦敦学生，棕色短发，眼神机灵，喜欢咧着嘴笑。我跟她闲谈的话题不外乎天气、音乐以及她的作为外教的生活逸事。但实情却绝对出乎你的意料，眼下的”她“心智正被200里外的一串电脑进程操控着。
任电脑摆布并没有让她觉得有多么不安，她告诉我今天她是有生以来头一回感觉到自己不过是一具臭皮囊。
言归正传，从技术上来说，Sophia是一具”回声生化人“——一个活人，临时性地成为了机器的喉舌。它所说的每一句话都由一个远程的聊天机器人即时生成，然后通过网络传达到它的一个耳部配件里。
听起来就像是反乌托邦科幻小说里的桥段，但是这些诡异的设置背后是有一个严肃的目的的。伦敦政治经济学院的研究员们希望能籍此实验来了解人工智能的外在会对我们的认知产生多大的影响。介于我们都将生存在一个机器与人类相差无几的未来世界，能提前了解我们对此会有何反应颇为重要。
”今时今日，与我们交互的AI给人的感觉都十分的‘机械’“，研究员Kevin Corti说，他对此的解决方案就是用人类的躯壳，搭配机械的内核。”只需做到这个地步就足够让人们认定他们遇到的’AI‘不过是另一个活人。“
[-]
机器人操控人类的身体可能会发生奇奇怪怪的事情
Corti 和实验监督人Alex Gillespie的实验灵感都来自于一个对“西拉诺化”(Cyranoid)现象的研究实验。引领该研究的Stanley Milgram是一名受争议的心理学家，在他最著名的实验(同时也是最臭名昭著的)——权力服从研究中，身为权威的他要求对象对另一个人施加点击，并且逐渐增加电压，结果是纵使那位可怜人看起来痛苦万分，很多人还是继续增强了电压。这个实验表明我们宁可去伤害别人，也不愿去质问权威。
而Stanley Milgram在晚年时的研究则更偏向于温和，他开始研究人们对于外在躯体的洞察力。当我们跟某人交谈时，我们真的在乎他所说的话吗？可能我们的观念早已先入为主，而这观念仅仅是基于以貌取人而已。
为了证实自己的想法，他从19世纪的著名舞台剧《大鼻子情圣》里拾了些牙慧。剧中主角西拉诺，军人中的菁英，同时也是一名诙谐的诗人和娴熟的音乐家。如此优秀的他却觉得自己太丑，配不上自己的漂亮表妹罗克珊。于是他灵机一动，出谋划策让英俊又呆蠢的新兵克里斯汀——后来成了自己的对头——遵从着西拉诺自己的一言一行去追求自己的表妹。剧中的一个名场景就是暗处西拉诺藏在灌木丛里以甜言蜜语作提示，明处克里斯汀对着阳台上的罗克珊又把话重复了一遍。
[-]
所谓的“西拉诺化”，就是指某些人任由他人指使的情况。
Milgram意识到，只要设计一个与剧中场景类似的实验就可以检验我们的肢体样貌对我们观念的影响。于是在接下来的实验里被“西拉诺化”的对象只能以从小型对讲机里听到的词句应答，而另一位参与的实验对象则不被告知这一设局并与“西拉诺化”对象攀谈。
令Milgram吃惊的是，大多数人并不觉得与“西拉诺化”对象的谈吐有任何毛病。“实验中，一个人所说的任何词句都来自于远端的源头，可是这一事实并没有对二人顺利交谈的过程产生任何影响。”他决定把实验再推进一步，一个被博学的年迈教授完全操控的小男孩进行试验能否也产生类似的结果呢？
可惜Milgram还没能完成它的实验就与1984年去世了，直到20年后，Gillespoie才从新捡起“西拉诺化”实验中的思维继续研究。他首先重复了“西拉诺化”儿童的实验，试验中一名11岁的儿童被数名成人进行了一番访谈，而儿童说的每一句话都由Gillespie亲自灌输。结果发现人们丝毫不怀疑眼前儿童有任何问题。按Gillespie的回忆，“我被问及了石墨烯、美国作家Henry James、撒切尔夫人的去世和财政危机，然后这帮访谈者就这么走了。好吧，他们只觉得这孩子还挺聪明的，心理年龄搞不好有15岁。”
[-]
行尸走肉
哲学观点认为，人们判断某人的言行是否发自内心的能力其实相当糟糕。“即使身心之间隔了一道巨大的鸿沟，也没几个人能察觉得了。”Corti说。简而言之，我们实在是过于以貌取人了。
在被带往实验室认识Gillespie和Kelvin Corti之前，笔者对这一研究结果也是半信半疑。面前的这位年轻女子与我之前得到的Kevin桑的照片没有半点相似之处，我想，难道这位Kevin桑可能变过性？但实际上Kevin在另外一个房间，正与我交谈的是Sophia(她本人也是伦敦政治经济学院的学生，而且也正在用相同的实验思路进行着自己的实验)。而在我这边，虽然明知这一切都是把戏，但还是被耍得晕头转向的。这一结果也表明，即使你对“西拉诺化”有了足够的认识，也不足以打破其中的某种魔咒。
有了这些成功实验的支撑，Corti 和Gillespie也开始构思下一步的更激进的实验，可能正如他所说的，“对人类思维的戏弄才刚要开始”。在接下来的实验里，负责在幕后指使的甚至不必是真人。“结果就是我们创造出了'回声生化人‘这一新型’西拉诺化‘对象，它们说的每一句话都是由聊天机器人生成的。”
Corti希望能在这个实验里一窥那个机器人更像人的未来。“在机器上完美实现人与人之间的交互还任重道远，但是我们可以跳过这一步，来看看人形电脑的出现会导致什么事情发生。”
[-]
回声生化人实验示意图
在这一实验里，参与者们依旧天真无邪——他们可不会被告知正在攀谈的其实是个机器人。而结果也正如Milgram所预料的，即使在冗长的对话之后，参与者们对自己正身陷的设局仍毫无头绪。“大多数人都没意识到对方说的话都是电脑程序编出来的。他们只是觉得在这种能免除社会压抑的封闭环境之中，对方展现出了自己略显奇葩的一面而已。“Corti说。
科幻作品中(包括最近播出的电视剧Human)，对机器人能否融入人类社会这一话题的探讨一直未曾间断，在未来，我们甚至不一定能说出谁的血管里流的是血液还是机油。而Corti的实验则告诉我们，不需要苦等未来，他们只需要动用当下的蹩脚AI就足以欺骗到你。
当然这些毕竟只是雕虫小技。研究团队接下来准备重复一次经典的图灵测试，只不过对象有变。这次测试里，参与者被告知他们的谈话对象有可能是机器人，参与者们需要猜出到底是谁。这次的结果就出乎研究员们的意料了，聊天机器人被轻易识破，图灵测试失败。“这帮人对人类的下限提升得太快了，回声生化人满足不了他们。”
这一结果揭露出一个悖论：当我们不知道对方是个AI时，我们只会觉得交谈对象只是表现出人类诸多行为中奇葩的一面而已。但当我们被告知对面可能不是人类时，我们就会变得吹毛求疵。“AI的表现可能已经出乎大多数人的意料，可是我们对AI’非人‘部分的成见令我们不愿以人类待之。“Corti说。
[-]
恐怖还是尴尬？
Gillespie对这次人与机械的正面交锋所带来的困局十分着迷，”当有一双眼睛直视着你时，你就很难泰然处之了”，他说，“这会带来某种拘束，让人觉得难堪，但对着屏幕说话可不会让人觉得难堪。”
笔者对此深有感触。初防他们的实验室并跟Sophia说话时，介于她非常善于遣词用句，我跟她的交谈看起来相当自然：
我：今天有什么新闻吗？
Sophia：根据BBC的报导，UK会在欧盟会议进行投票表决。
我：那个随便啦，现在轮到你向我提问。
Sophia：你最喜欢哪个band？
我：我不热衷于听band，但是我蛮喜欢像Joni Mitchell这样的作曲者。
Sophia：Joni Mitchell是吧，我也很喜欢她。她平时走路时经常会停下来say hello。
但实际上，如果这段对话发生在网络上，我可能就中招了(也可能我会觉得她只不过是个喜欢扯淡的人)。但是在这种面对面的场合，Sophia这种略显奇怪的回答中若是夹带任何一丝停顿都会显得突兀——而这种感觉你在聊qq时是不会察觉到的。
[-]
我们面对机器人时也看脸吗？
出于这个考量，Gillespie认为机器人与人类的交往中出现了类似于“恐怖谷效应”的情况。电脑生成的人类动画越真实，观众观看之后就越觉得诡异——这一现象多出现在观看CGI影片之后。当动画配上声音之后，你甚至会觉得更加不适。“当人工智能跨越了人类智能的界限时，比起恐怖，更多的应该是尴尬，这应该叫做尴尬谷效应。”他说。这个观点倒是有趣，他不认为我们面对未来机器人的逼真面孔时会像科幻小说里描写的那样表现得惊悚万分，大多数人只是会觉得很冏而已。
攻克这一人性难关对于我们即将要与AI一起共享的未来来说是相当重要的，所以Corti和Gillespie的回声生化人实验还会继续下去。“我觉得这是件相当前卫的事情，”Gillespie说，“你可以试着回顾下历史，我们觉得应该是由技术性因素所决定的，事实上却并非如此，作决定的其实是民意，公众的固有观念会决定这些东西是不是应该上街当警官。所以我们还要做大量的工作才能检视个中联系。”
[-]
在这帮研究猿的心里，这些实验的最终结果甚至可以回答那个亘古以来就存在着的问题：什么是生命。试想一下，如果真的出现了跟Sophia一模一样的机器人，但是与她交谈时却没有那种聊天机器人才有的僵硬腔调，你会对她有所改观吗。“应该有什么东西是存在于人类外在行为之上的”Corti提出了质问，“如果没有这种东西，那为什么当我们面对这些能完全模仿人类一举一动的机器时，我们还是会称之为机器，而不是人类？”