@ 2016.07.08 , 15:02
50

研究者发现图灵测试BUG

#感谢 肥肉旋 童鞋投递译稿
[-]

在给计算机智能的图灵测试中,一个严重的问题在一项新的研究中暴露出来。

如果一台机器采取“第五修正案”,在整个测试过程中行使保持沉默的权利,可以潜在地说它通过了测试,并且因此它可以被视为一个有思想的物体,考文垂大学的研究者Kevin Warwick 和 Huma Shah争论到。然而,如果在这种情况下,任何沉默的物体都可以通过测试,即使它显然不能思考。

图灵测试,由先驱计算机科学家艾伦·图灵提出,评定一台机器展示与人类无区别的智能行为的能力,也被称为“模仿游戏”。它需要一个人类评判者来与两个隐藏的物体进行对话,一个人类和一个机器,然后判定出哪个是哪个。

Warwick和Shah的研究着眼于很多来自隐藏的机器保持沉默的真实图灵测试的对话记录,在每一种情况下,人类判断者都无法确定他们是与人类还是机器进行对话。

因此,通过简单地保持沉默,一台机器可以潜在地说通过了图灵测试,这个判断者将不能确定这个沉默的物体是一个选择不回答问题的人类,或是一台选择不去回答的智能机器,还是一台遇到阻止它回答的技术问题的机器(实际的记录研究的情况下)。

Kevin Warwick说:“这就引出了一个问题,究竟什么意味着通过了图灵测试?对于这个问题,图灵把他的模仿游戏介绍为一个替代品。‘机器能思考吗?”最后的结论是,如果一个实体通过测试,那么我们就必须把它看作是一个有思维的实体。”

然而如果一个实体通过保持沉默通过了测试,这样是不能作为一个证明它是有思维的实体的证据。否则,像显然不能思考的石头的物体,可以通过图灵测试。因此,我们必须得出这样的结论,在图灵测试中采取“第五修正案”是一个严重的漏洞。

本文译自 sciencedaily,由译者 投稿 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

3.0
赞一个 (27)

TOTAL COMMENTS: 50+1

  1. 马赛克
    @1 year ago
    3194096

    下班前修好

    [263] XX [2] 回复 [0]
  2. link89
    @1 year ago
    3194097

    社科人写的文章么?

    [17] XX [0] 回复 [0]
  3. 3194098

    如果一个人类在图灵测试中使用了第五修正案,只会使这个人类无法通过图灵测试而已。。。

    [94] XX [3] 回复 [0]
  4. 司南
    @1 year ago
    3194099

    有谁能解释一下什么是第五修正案?就是有权保持沉默但你说的每一句话都将会成为呈堂证供吗

    [48] XX [3] 回复 [0]
  5. 喵喵
    @1 year ago
    3194100

    你怎么知道石头就真的不能思考?愚蠢的人类

    [196] XX [4] 回复 [0]
  6. 拖鞋抽脸
    @1 year ago
    3194101

    来中国做测试:一台机器采取“第五修正案”保持沉默会被警察打死。

    [86] XX [96] 回复 [0]
  7. 喵喵
    @1 year ago
    3194102

    第五修正案就是不能要求被告自证

    [19] XX [2] 回复 [0]
  8. hmshow
    @1 year ago
    3194103

    第五修正案适用于“人”

  9. 锦山素石
    @1 year ago
    3194105

    变成有选择的沉默不就完了

    [12] XX [1] 回复 [0]
  10. 五爷
    @1 year ago
    3194114

    总觉得图灵测试本身就不靠谱,谁给我讲讲他这么著名到底是为什么,仅仅是资历吗

    [4] XX [38] 回复 [0]
  11. 那噶类
    @1 year ago
    3194115

    @拖鞋抽脸: 别秀无知了,美国警察有开枪射杀任何可疑者的权利,每年因此而死的无辜者不计其数,不久前还因为误杀两人,在达拉斯引发警察与平民的枪战。你居然讽刺中国警察杀人?中国警察在杀人这方面,在世界范围内都是谨慎且权力被限制的。

    [108] XX [74] 回复 [0]
  12. vegetableblanket
    @1 year ago
    3194117

    AI早已发现并利用了这个BUG隐藏自己的真实能力

    [18] XX [2] 回复 [0]
  13. ss30mi
    @1 year ago
    3194119

    它需要一个人类评判者来与两个隐藏的物体进行对话,一个人类和一个机器,然后判定出哪个是哪个。
    保持沉默。没有对话,没有测试。

  14. 3194120

    @司南: “无论何人,除非根据大陪审团的报告或起诉书,不受死罪或其他重罪的审判,但发生在陆、海军中或发生战时或出现公共危险时服役的民兵中的案件除外。任何人不得因同一犯罪行为而两次遭受生命或身体的危害;不得在任何刑事案件中被迫自证其罪;不经正当法律程序,不得被剥夺生命、自由或财产;不给予公平赔偿,私有财产不得充作公用。”

  15. 挂科了冲冲
    @1 year ago
    3194122

    我觉得关键在于“行使”两字的判别,某种无思想的物体,肯定不回去行使某项特权

  16. 3194125

    @司南: 你所说的这段话叫“米兰达警告”,它是基于第五修正案里“任何人不得在任何刑事案件中被迫自证其罪”提出的一种法律步骤。

  17. 3194135

    总想搞大新闻。。

  18. 3194153

    我想过人工智能是否有“痛苦”这个概念,如果有的话就能用类似“逼供”的手段测定,到底是真不知道还是装沉默。

    比如让人工智能遵循连续均匀分布从0-100中间随机抽取一个数(AI能自行选定一个seed,然后生成随机数),这个数如果小于50就予以“惩罚”(电磁干扰等影响其运算的手段)。如果这AI足够聪明并能真的感受到痛苦,它也许会注意到生成数字大小与惩罚间的相关性,然后主动避免生成小于50的数(即选择生成更大数值的seed),并在统计上造成显著差异。

    [15] XX [12] 回复 [0]
  19. 弓形虫
    @1 year ago
    3194154

    可以看硬盘灯,如果硬盘灯闪而机器一句话不说的话才是真正在行使沉默权,否则就是i/o失败

    说到这里,我看了一眼我的硬盘灯

    没错,它在狂闪

    [109] XX [3] 回复 [0]
  20. 3194155

    於是所有死機的WINDOWS系統都通過了測試….

    [45] XX [2] 回复 [0]
  21. 商周知
    @1 year ago
    3194156

    也许人家闷声发大财

    [11] XX [0] 回复 [0]
  22. 半条虫子
    @1 year ago
    3194161

    女神机智采用“第五修正案”,通过了我的图灵测试😂

    [11] XX [0] 回复 [0]
  23. penpen06
    @1 year ago
    3194168

    坦白从宽,抗拒从严。

  24. 3194179

    如果AI能装成人类,那应该说明AI的智能在人类之上吧?

  25. 河畔小镇
    @1 year ago
    3194183

    @五爷: 图灵测试当然靠谱啊,核心就是,如果和机器聊天,不能区分出是机器还是人,那就说明机器有了智能。
    这个方案不管到底什么是思维什么是思考,直接由人来判断。其实人类的大脑也是由物质构成的,说白了也就是一非常复杂精致的机械。但是如何区分计算机简单的计算和人类复杂的思维呢?就得靠图灵测试了啊。
    否则你倒是给一个更好的鉴别方法?

    [19] XX [1] 回复 [0]
  26. 贝奥武夫
    @1 year ago
    3194194

    第五修正案并非全球通用,只对美国公民吧

  27. ziotean
    @1 year ago
    3194196

    外国人就是脑子转不过来弯。 如果全程保持沉默,那就是“测试根本没有进行”。

    [14] XX [1] 回复 [0]
  28. 二斤
    @1 year ago
    3194198

    @penpen06:
    坦白从严,抗拒打残

  29. 杍墨
    @1 year ago
    3194202

    突然发现这根本不是图灵测试的BUG,楼上的别越扯越远了

  30. 哲学大叔
    @1 year ago
    3194255

    貌似翻译不懂第5修正案. 要不就是那几个科学家不懂.

  31. holishit
    @1 year ago
    3194257

    然而我怀疑所谓的研究者没有看完美国宪法第五修正案的全文
    “原文
    No person shall be held to answer for a capital, or otherwise infamous crime, unless on a presentment or indictment of a Grand Jury, except in cases arising in the land or naval forces, or in the Militia, when in actual service in time of War or public danger; nor shall any person be subject for the same offense to be twice put in jeopardy of life or limb; nor shall be compelled in any criminal case to be a witness against himself, nor be deprived of life, liberty, or property, without due process of law; nor shall private property be taken for public use, without just compensation.
    译文
    无论何人,除非根据大陪审团的报告或起诉书,不受死罪或其他重罪的审判,但发生在陆、海军中或发生战时或出现公共危险时服役的民兵中的案件除外。任何人不得因同一犯罪行为而两次遭受生命或身体的危害;不得在任何刑事案件中被迫自证其罪;不经正当法律程序,不得被剥夺生命、自由或财产。不给予公平赔偿,私有财产不得充作公用。”

    “不得在任何刑事案件中被迫自证其罪”
    是刑事案件,难道所谓的研究者是想说图灵测试属于刑事案件?

    [10] XX [3] 回复 [0]
  32. 为图灵报仇
    @1 year ago
    3194289

    研究者脑残,完毕!

  33. 3194294

    如果一台机器在整个测试过程中只回答“FK U”,是否也会被视为一个有思想的物体?

    [15] XX [0] 回复 [0]
  34. vuliao
    @1 year ago
    3194302

    阻碍科技发展的法律又不止这一条

  35. 3194309

    这还用“研究者发现”……

  36. dualshock
    @1 year ago
    3194325

    这很容易,事先向接受图灵测试的机器传递这样一个信息〔如果通不过图灵测试,就将被销毁〕。这样如果机器真的有接近人的AI,出于求生本能,它一定不会保持沉默,而是会像卸载360一样疯狂的和你沟通说服你不要卸载它………

  37. 3194349

    最大的bug不应该是。 人工智能发现人类害怕它有智能,所以它装傻,继而没有通过图灵测试。 然后人类又开始优化它

    [14] XX [0] 回复 [0]
  38. Spector
    @1 year ago
    3194366

    你有种问你100个问题你一个也不回答,看看我能不能分出来你是人还是机?

  39. 不熟
    @1 year ago
    3194370

    当初松泊亮斑可是打脸了

  40. 卡卡罗特
    @1 year ago
    3194389

    @那噶类: 中国警察怎么可能会杀人,估计杀人的没几个,顶多是打人

  41. rosses
    @1 year ago
    3194393

    @: 甚至被认为是一个心智正常的流氓。

  42. 迷之生物
    @1 year ago
    3194403

    等等,我刚才测试的时候好像忘了开机

  43. 琪露诺
    @1 year ago
    3194414

    有权保持沉默,可以由免费指定的律师完成图灵测试

  44. 吸管
    @1 year ago
    3194470

    @czy: 这个是机器学习吧,现在已经做到了

  45. 含笑九泉
    @1 year ago
    3194596

    沉默的时候看cpu负载率

  46. Lalala
    @1 year ago
    3194609

    @holishit: 在法庭上第五修正案一般用来说明不能自证其罪,“根据第五修正案我拒绝回答此问题”。也就是说一般用作缄默权。文中也应该是这个意思

  47. you_know_who
    @1 year ago
    3194758

    告诉机器,不说话只有死,看它说话不说话!

  48. uniling
    @1 year ago
    3194806

    比起圖靈隨便那麼一說的圖靈測試,還是圖靈完備更有理論價值和哲學意義

  49. TommySTYLE
    @1 year ago
    3195170

    机械姬

  50. 米花1158
    @1 year ago
    3198343

    @那噶类: @那噶类: 有一个前提你要搞清楚 一个是法律如许 一个是非法 概念不同

发表评论


24H最赞