@ 2019.12.03 , 09:00
14

自然语言处理简史之四:史上第一个聊天机器人

1964年至1966年间,麻省理工学院人工智能实验室的德裔计算机科学家约瑟夫·维岑鲍姆(Joseph Weizenbaum)开发出有史以来第一款聊天机器人。

尽管当时已存在基本的数字语言生成器(可以输出连贯文本行的程序),但维岑鲍姆的聊天机器人是首个明确被设计用来与人互动的程序。用户键入自然的语句,按Enter键,机器响应。如魏曾鲍姆的解释,他的程序使“人与计算机之间的某些自然语言对话成为可能”。

程序的名字叫Eliza Doolittle,来自乔治·伯纳德·萧George Bernard Shaw(也就是著名的萧伯纳)的作品Pygmalion《卖花女》中的角色。维岑鲍姆使用一种被称为MAD-SLIP的编程语言,运行在36位IBM 7094(早期的晶体管大型计算机)上。

由于计算时间是宝贵的资源,因此Eliza只能通过分时系统运行;用户通过电动打字机和打印机与程序进行远程交互。当用户键入一个句子并按Enter键时,消息被发送到伺服系统。 Eliza扫描了邮件中是否存在关键字,并在新句子中使用了该关键字以形成响应。响应返回,打印给用户。

为了鼓励对话,维岑鲍姆在设计中,令Eliza模拟罗杰式心理分析人员所使用的对话风格。如下面的示例(请注意该程序如何使用“男朋友”和“沮丧”之类的关键字。):

人:男人都一个德行。

电脑:怎么说?

人:他们总是令我们扫兴。

电脑:您能想到一个具体的例子吗?

人:好吧,我的男朋友就这样。

电脑:您的男朋友?

人:他说我动不动就沮丧。

电脑:哦,很抱歉听到你不开心。

人:是的。我不开心。

这种对话方式,给人的印象是计算机可以理解对话,又不必为对话提供任何新内容。它仅用200行代码就产生了理解和参与的错觉。

为了测试Eliza,维岑鲍姆邀请学生和同事与机器人聊天。他有些担忧地注意到,在与Eliza的短暂互动时,许多用户开始对算法形成情感上的依恋。他们会向机器敞开心扉,倾诉自己在生活和人际关系中遇到的问题。

更令人惊讶的是,即便维岑鲍姆告知参与者机器人生成语句的真相,这种亲密感仍会延续。维岑鲍姆的秘书令他尤其困惑,因为秘书在数月时间里,眼睁睁地看着他从头开始构建程序,但在测试时,她坚持要维岑鲍姆离开房间,以便可以与Eliza私下交谈。

对于维岑鲍姆来说,Eliza实验使他质疑艾伦·图灵Alan Turing在1950年提出的关于测试人工智能的思想。图灵在题为《计算机械与智能》的论文中建议,如果一台计算机可以与人类进行令人信服的文本对话,则可认为它是具备智能的——这就是著名的图灵测试的基础。

但是, Eliza表明,即使理解只从单侧产生,也可以在人与机器之间进行令人信服的对话:智能模拟(而不是智能本身)足以愚弄人类。维岑鲍姆称这种现象为Eliza效应,并认为这是数字时代人类共同产生的“妄想”。这一见解对维岑鲍姆来说是一次深刻的领悟,并定义了他在随后的十年中的思想轨迹。

1976年,他出版了《计算能力和人类理性:从判断到计算》一书。在书中,他认为,Eliza效应代表着困扰着“现代人”的更广泛的病理学症状。在一个被科学、技术和资本主义所征服的世界里,人们已经习惯于将自己看作是一台巨大而无所顾忌的机器中的孤立齿轮。魏岑鲍姆认为,在这样一个温情日益减少的社会中,人们变得如此绝望,以至于他们抛弃了他们的理性和判断力,相信一个程序可以给予自己温暖。

维岑鲍姆在余生里致力于发展对人工智能和数字技术的人文主义批评。他提醒人们,机器并不像我们想的那样聪明。即使他们看起来可以像人类一样说话,但他们从未真正倾听。

本文译自 spectrum.,由译者 majer 基于创作共用协议(BY-NC)发布。


支付宝打赏 [x]
您的大名: 打赏金额:

赞一个 (9)

+1

  1. balabalaba
    @5天 ago
    4408216

    显然,当我们试一试与手机上的语音助手聊天,就可以猜到文中二百行代码的机器人有多么地智能

  2. 和通通
    @5天 ago
    4408219

    没错我就是

  3. 弹指
    @5天 ago
    4408229

    捧哏?

  4. 哎哟不错哦
    @5天 ago
    4408231

    人类是一种需要同类的社群动物,所以我们习惯于把所见解释为对自己有意义的东西,哪怕那些东西其实真的一点都不靠谱。比如火星上的人脸,比如几乎所有风景区的人型山峰。
    所以,哪怕那只是水中倒影,我们也会觉得可以和他(她)社交,来获取一些头脑的安慰,事实上这些安慰来自我们自己。
    而那些把倒影称为AI的人,我们可以清晰地辨认出,他们是商人,不是科学家。也许一个有高等教育学历,有博士博士后头衔,但他做的违背科学精神,只是个商人,或者商人的代言人。

  5. 食品级怪蜀黍
    @5天 ago
    4408232

    AI树洞……

  6. 生生世世sss
    @5天 ago
    4408240

    也许二百行代码真的能做出人工智能

  7. 脑子坏掉了
    @5天 ago
    4408260

    这就是捧哏啊……

  8. 脑子坏掉了
    @5天 ago
    4408264

    @balabalaba:
    显然,你没看懂——这个二百行代码的“AI”只是让你觉得它听懂了并且反馈了,但关键是它不提供任何有意义的信息反馈。

  9. 蝙蝠
    @5天 ago
    4408349

    很好的素材啊。

    200行代码只是表面,背后其实是庞大复杂的智能分析模块,Eliza与人交谈结束后可以生成一份详尽的分析报告,实际上这是一个心理咨询师AI助手。

    可是,当有一天心理咨询师发现他的AI助手开始尝试“治疗”他的病人的时候,麻烦开始了……

    如何定义心理问题与心理疾病;如何定义“治疗”与“纠正”;在AI的绝对理智与人类的相对感性面前,咨询师、工程师、病人甚至Eliza都有自己不同的理解。

  10. none1
    @5天 ago
    4408382

    有个笑话,有个人对着只会回复“然后呢”的机器人聊了一下午。

  11. prst
    @5天 ago
    4408393

    教堂告解室是不是就是利用了人的这种需求?想要一个可以信赖、不会暴露隐私、能作简单回应的倾吐对象?即便明知不会得到有价值的回应,甚至对方都不一定是真人……
    AI牧师有没有搞头?或许已经有了?

  12. 4408429

    人类一直在寻找一串代码赋予机器人性,是否存在一串代码可以剥夺人类的人性呢

  13. 橙子fallout
    @4天 ago
    4408981

    虚拟歌姬!!!

  14. 闪耀的偏方三八面体
    @4天 ago
    4409135

    其实我们只是需要一个树洞而已

发表评论