@ 2009.08.21 , 15:00
44

好消息坏消息?机器人也会撒谎呐

好消息坏消息?机器人也会撒谎呐
这是在瑞士洛桑Ecole Polytechnique Fédérale 大学实验室里的一实验,他们一共使用了1000个智能机器人,分成了不同的10组,要他们协同合作去某个地方搜索一些目标的资源。其中也有遇到一些有毒资源,这需要机器人们去判断。

每个机器人都有一个传感器:定位用。一个蓝色的小灯:那个小灯是,当机器人找到了指定目标时便会打开灯通知对方。

最终要的是,每个机器人都有属于自己一个264位二进制代码‘基因组’,它能对不同外界刺激的反馈(实际上就是他们的智商)。并且‘基因组’会让机器人们随着实验的进程而累计不同的经验(有时候甚至从对方那里学习,研究人员描述其为基因进化)从而传输下一批参与实验的机器人中。

研究人员发现当但‘基因组’进化到第九批时,每个机器人都成了资源搜索专家,并能通过通讯装置告诉同伴目标资源的位置。

但基因组进化到500批时,有60%的机器人们开始向对方撒谎,即便是他们已经找到目标资源也不会通知对方。相反,遇到有毒资源时,还会欺骗对方打开自己的蓝色小灯。继续发展,研究人员发现有1/3的机器人开始学会找出撒谎者。

研究人员认为这一过程有点类似真正自然界生物的演变,机器人会随着自己智商的提高而显现出各种不同得‘善恶本性’。这是好事还是坏事呢?!来源

Yu 补充说 :

这个实验oioi没说清楚,或是原文没说,就是:这些机器人有没有必须生存(运行)的指令。生存(运行)的指令和必须找到资源的指令效果一致

总的而言,有这么个思想框架:生存进化中,资源越匮乏,攻击性越强。对于生物界,存活的个体不断积累,自然就有了渴望生存的基因(反证证明,简单说就是如果生物没有渴望生存的基因,它就很容易灭亡,这种基因也就留不下来),为了生存就得得到资源,资源匮乏就得争,争着争着就进化出了攻击性。所以我在看《异形》时觉得真实些,异形的星球烂的根本没法活,所以异形的攻击性非常强。

这个实验,如果这些机器人有没有必须生存(运行)的指令,结果就没什么大惊小怪,它们会中规中矩,大不了坏了有人修。不过如果有必须生存(运行)的指令,并且它们
有进化功能,即使再简单的进化功能,也会进化出攻击性。其实攻击性的目的是得到资源,撒谎也能达到这个目的。

看上面有人说到《黑客帝国》,道理和这一样的。

4.6
赞一个 (2)

TOTAL COMMENTS: 44+1

  1. 350943

    想起了在制作《魔戒》时,cg团队编程模拟战争,针对每个士兵只设定有“攻击、防御”等简单指令。但当许多个士兵一起组成模拟的战场,真实的战斗时,却很奇妙地发现随着时间的推移,有些士兵自动产生了“根据战场局势逃跑”的动作指令。

    OO [5] XX [0]
  2. 350944

    @camus: 智力,就是这样来的吧

    OO [0] XX [0]
  3. 350952

    诶?

    我比较想知道为什么会酱。。。

    OO [0] XX [0]
  4. 350955

    @camus: 我也看过那段花絮,不过我觉得好像是bug,搞错方向了,灭哈哈

    看到错字就猜到是oioi,木哈哈

    OO [0] XX [0]
  5. virtualenemy
    @7 years ago
    350956

    秩序改变了。环境也不同了。

    OO [0] XX [0]
  6. 温暖色老猫
    @7 years ago
    350959

    看完以后身上起了一层鸡皮疙瘩。从内心里感觉恐怖。天网或许真的不远了。

    OO [1] XX [1]
  7. asyura
    @7 years ago
    350961

    别拦我,让我打个寒战……

    OO [1] XX [0]
  8. 严酷的魔王
    @7 years ago
    350964

    啊哈~厉害

    当然是好消息

    OO [0] XX [0]
  9. 350965

    越来越近了…………

    Machine City, I’m coming…..

    OO [0] XX [0]
  10. 非法
    @7 years ago
    350968

    机器的世界。。。人类该何去何从?

    OO [0] XX [0]
  11. 留言专用马甲
    @7 years ago
    350969

    当机器人开始警惕人类,开始为自己谋求公平,利益……

    OO [2] XX [0]
  12. 章鱼
    @7 years ago
    350970

    ……….

    OO [0] XX [0]
  13. bamboowind
    @7 years ago
    350979

    模拟程序出bug了也整出来一篇新闻…………

    OO [1] XX [1]
  14. 耗子小三
    @7 years ago
    350982

    @camus: 这个很神奇……

    OO [0] XX [0]
  15. Firvox
    @7 years ago
    350985

    @Alex: The Matrix?

    OO [0] XX [0]
  16. 小叉
    @7 years ago
    350986

    所有机器进化也不过是程序员编的而已

    OO [0] XX [0]
  17. leehang
    @7 years ago
    350991

    看oioi的文章就是能看到错字和一些摸不着头脑的文字搭配……

    OO [0] XX [0]
  18. 飞熊
    @7 years ago
    351005

    我是一个程序员,深知,机器人不管有多聪明也是程序作怪

    OO [0] XX [0]
  19. 351022

    觉得不是好事,他们会对机器人撒谎,那他们一样会对人类撒谎!程序可以变成自由组合.不要以为代码就不会演变!

    OO [0] XX [0]
  20. 351023

    这个实验oioi没说清楚,或是原文没说,就是:这些机器人有没有必须生存(运行)的指令。
    总的而言,有这么个思想框架:生存进化中,资源越匮乏,攻击性越强。对于生物界,存活的个体不断积累,自然就有了渴望生存的基因(反证证明,简单说就是如果生物没有渴望生存的基因,它就很容易灭亡,这种基因也就留不下来),为了生存就得得到资源,资源匮乏就得争,争着争着就进化出了攻击性。所以我在看《异形》时觉得真实些,异形的星球烂的根本没法活,所以异形的攻击性非常强。
    这个实验,如果这些机器人有没有必须生存(运行)的指令,结果就没什么大惊小怪,它们会中规中矩,大不了坏了有人修。不过如果有必须生存(运行)的指令,并且它们
    有进化功能,即使再简单的进化功能,也会进化出攻击性。其实攻击性的目的是得到资源,撒谎也能达到这个目的。
    看上面有人说到《黑客帝国》,道理和这一样的。

    OO [2] XX [0]
  21. 351025

    还忘了说一句:生存(运行)的指令和必须找到资源的指令效果一致

    OO [0] XX [0]
  22. 351033

    @Yu: 我把你的补充上去

    OO [0] XX [0]
  23. 351034

    @Firvox: Yes, The Matrix.

    OO [0] XX [0]
  24. 351035

    @leehang: 呃。……

    OO [0] XX [0]
  25. 351037

    @Yu: 其实就跟自私的基因那一套观点一样吧。

    OO [0] XX [0]
  26. 351041

    自我进化真的有可能么?

    OO [0] XX [0]
  27. 351043

    让我想起一部科幻短片,名字不记得了。一个底层低智商人造人,本来用来人肉探雷的,其中一个学会了把别人推向雷区,最终他被认定为是人类。

    OO [1] XX [0]
  28. 351045

    目前的人工智能并没有真正的学习能力,一切都是设定好的程序。机器人的“学习”模式为:如果遇到某种情况,造成某种后果,则纪录该情况以规避或重复。即使试验所用的机器人真的学会了撒谎,那也是撒谎的功能早就被赋予了机器人,只不过是随着试验的运行该功能被激发出来了而已。

    OO [2] XX [0]
  29. 肖深刻的九叔
    @7 years ago
    351051

    程序能编出自我意识?欺骗一下不会编程的人吧。

    OO [1] XX [0]
  30. JOSSER
    @7 years ago
    351064

    想起一句话来~穷山恶水出刁民

    OO [1] XX [0]
  31. sprite
    @7 years ago
    351066

    自觉?天网?

    OO [0] XX [0]
  32. 351078

    “只要去除天网的求生程序就可以摧毁它”

    《终结者5——-最后审判》

    OO [1] XX [0]
  33. 351081

    @肖深刻的九叔: 真正的自我意识还是虚拟的自我意识

    OO [1] XX [0]
  34. aaaaaaaaaaaaa
    @7 years ago
    351083

    程序完全可能有学习能力,以前jandan不是有个新闻么 科学家用 某种金属粒子放在液体里组成最原始的生命体,生命最初都是没意识的

    OO [1] XX [0]
  35. 路人丁
    @7 years ago
    351108

    额··感觉不太可能··自己学过编程…难道机器人能够自己改写程序?程序都是编程者设计好的··再说机器人有人那么聪明直接改自己的核心程序?估计设计机器人的那个人没源代码也没法改..个人观点

    OO [0] XX [0]
  36. 死螳螂
    @7 years ago
    351112

    人类和机器的融合会是人类又一次进化的开始!

    OO [1] XX [0]
  37. 荒山之夜
    @7 years ago
    351117

    从结果反推的话,这个程序应该要满足以下两点:
    1。Robot在找到资源时有选择权通知对方或者不通知(就是有撒谎的可能)
    2。在实验过程中,Robot根据算法来确定基因的优劣而选择学习某种经验。在这种算法中,找到资源的多少是很重要的因素。
    因此,Robot可能会学习“撒谎”。这一切都是由算法决定的,如果条件1不满足,那么撒谎就没有可能;如果条件2不满足,那么撒谎基因可能很难成为优势基因,在Robot中的比例也会很低,当然这和实验环境是有关系的,如前面几位所说,在资源有限的时候,撒谎可能更容易保有更多资源。

    OO [0] XX [0]
  38. Izual_Yang
    @7 years ago
    351129

    不是机器人会撒谎,而是:1.人类给它们设定的基本规则要求它们撒谎(也就是:撒谎对它自己有什么好处?只有人类为机器人设定了目标、评价体系和资源稀缺性,才谈得上撒谎);2.人类把机器人在这个基本规则下做出的行为理解成撒谎(也就是:人类用自己的利己行为来类比机器人,这一行为放在人身上就是撒谎,但放在机器人身上叫不叫撒谎?这要等那帮机器人进化出伦理学家才能知道)。其实Yu和荒山之夜已经解释得很清楚了。

    OO [1] XX [0]
  39. 绯苍霜
    @7 years ago
    351148

    已经这样强悍了?

    OO [0] XX [0]
  40. pudding卡迷
    @7 years ago
    351566

    看完补充我才明白。

    OO [0] XX [0]
  41. 351762

    其实,大家都没发现,上面留言的其中一位就是robot!

    OO [0] XX [0]
  42. 大昱
    @7 years ago
    351934

    是到机器人三定律发挥作用的时候了。

    OO [0] XX [0]
  43. 352024

    俺一看标题就想到图灵测试

    现在的人工智能当然都是”虚拟的”智能
    until在生物领域突破阻碍..

    个人觉得这些研究么啥利用价值 纯属以科研名义烧钱.. 干点实事不好么@@

    OO [0] XX [0]
  44. 408608

    理论上,程序确实是可以自行进化的。
    举个例子,以前曾经流行的word宏病毒,有一些病毒是改写文件头,有一些的是改写文件尾,然后,当改写文件头的病毒和改写文件尾的病毒一起感染同一个文件的时候,就会进化出一种同时改写文件头和文件尾的新型病毒。也就是说,程序员编写的程序,并不一定按照程序员的意志来执行,同一段代码,在不同情景下运行,结果是不一样的。

    OO [3] XX [0]

发表评论


24H最赞