2009/08/21：
好消息坏消息？机器人也会撒谎呐
这是在瑞士洛桑Ecole Polytechnique Fédérale 大学实验室里的一实验，他们一共使用了1000个智能机器人，分成了不同的10组，要他们协同合作去某个地方搜索一些目标的资源。其中也有遇到一些有毒资源，这需要机器人们去判断。
每个机器人都有一个传感器：定位用。一个蓝色的小灯：那个小灯是，当机器人找到了指定目标时便会打开灯通知对方。
最终要的是，每个机器人都有属于自己一个264位二进制代码‘基因组’，它能对不同外界刺激的反馈(实际上就是他们的智商)。并且‘基因组’会让机器人们随着实验的进程而累计不同的经验(有时候甚至从对方那里学习，研究人员描述其为基因进化)从而传输下一批参与实验的机器人中。
研究人员发现当但‘基因组’进化到第九批时，每个机器人都成了资源搜索专家，并能通过通讯装置告诉同伴目标资源的位置。
但基因组进化到500批时，有60%的机器人们开始向对方撒谎，即便是他们已经找到目标资源也不会通知对方。相反，遇到有毒资源时，还会欺骗对方打开自己的蓝色小灯。继续发展，研究人员发现有1/3的机器人开始学会找出撒谎者。
研究人员认为这一过程有点类似真正自然界生物的演变，机器人会随着自己智商的提高而显现出各种不同得‘善恶本性’。这是好事还是坏事呢？！来源
Yu 补充说 :
这个实验oioi没说清楚，或是原文没说，就是：这些机器人有没有必须生存（运行）的指令。生存（运行）的指令和必须找到资源的指令效果一致
总的而言，有这么个思想框架：生存进化中，资源越匮乏，攻击性越强。对于生物界，存活的个体不断积累，自然就有了渴望生存的基因（反证证明，简单说就是如果生物没有渴望生存的基因，它就很容易灭亡，这种基因也就留不下来），为了生存就得得到资源，资源匮乏就得争，争着争着就进化出了攻击性。所以我在看《异形》时觉得真实些，异形的星球烂的根本没法活，所以异形的攻击性非常强。
这个实验，如果这些机器人有没有必须生存（运行）的指令，结果就没什么大惊小怪，它们会中规中矩，大不了坏了有人修。不过如果有必须生存（运行）的指令，并且它们
有进化功能，即使再简单的进化功能，也会进化出攻击性。其实攻击性的目的是得到资源，撒谎也能达到这个目的。看上面有人说到《黑客帝国》，道理和这一样的。
© 2006-2012 Jandan.net / 鄂ICP备11008023号-1 / 京公网安备1101051995(备案查询: 010-85953862) /
想起了在制作《魔戒》时，cg团队编程模拟战争，针对每个士兵只设定有“攻击、防御”等简单指令。但当许多个士兵一起组成模拟的战场，真实的战斗时，却很奇妙地发现随着时间的推移，有些士兵自动产生了“根据战场局势逃跑”的动作指令。
@camus: 智力，就是这样来的吧
诶？
我比较想知道为什么会酱。。。
@camus: 我也看过那段花絮，不过我觉得好像是bug，搞错方向了，灭哈哈
看到错字就猜到是oioi，木哈哈
秩序改变了。环境也不同了。
看完以后身上起了一层鸡皮疙瘩。从内心里感觉恐怖。天网或许真的不远了。
别拦我，让我打个寒战……
啊哈～厉害
当然是好消息
越来越近了…………
Machine City, I’m coming…..
机器的世界。。。人类该何去何从？
当机器人开始警惕人类,开始为自己谋求公平,利益……
……….
模拟程序出bug了也整出来一篇新闻…………
@camus: 这个很神奇……
@Alex: The Matrix?
所有机器进化也不过是程序员编的而已
看oioi的文章就是能看到错字和一些摸不着头脑的文字搭配……
我是一个程序员，深知，机器人不管有多聪明也是程序作怪
觉得不是好事,他们会对机器人撒谎,那他们一样会对人类撒谎!程序可以变成自由组合.不要以为代码就不会演变!
这个实验oioi没说清楚，或是原文没说，就是：这些机器人有没有必须生存（运行）的指令。
总的而言，有这么个思想框架：生存进化中，资源越匮乏，攻击性越强。对于生物界，存活的个体不断积累，自然就有了渴望生存的基因（反证证明，简单说就是如果生物没有渴望生存的基因，它就很容易灭亡，这种基因也就留不下来），为了生存就得得到资源，资源匮乏就得争，争着争着就进化出了攻击性。所以我在看《异形》时觉得真实些，异形的星球烂的根本没法活，所以异形的攻击性非常强。
这个实验，如果这些机器人有没有必须生存（运行）的指令，结果就没什么大惊小怪，它们会中规中矩，大不了坏了有人修。不过如果有必须生存（运行）的指令，并且它们
有进化功能，即使再简单的进化功能，也会进化出攻击性。其实攻击性的目的是得到资源，撒谎也能达到这个目的。
看上面有人说到《黑客帝国》，道理和这一样的。
还忘了说一句：生存（运行）的指令和必须找到资源的指令效果一致
@Yu: 我把你的补充上去
@Firvox: Yes, The Matrix.
@leehang: 呃。……
@Yu: 其实就跟自私的基因那一套观点一样吧。
自我进化真的有可能么？
让我想起一部科幻短片，名字不记得了。一个底层低智商人造人，本来用来人肉探雷的，其中一个学会了把别人推向雷区，最终他被认定为是人类。
目前的人工智能并没有真正的学习能力，一切都是设定好的程序。机器人的“学习”模式为：如果遇到某种情况，造成某种后果，则纪录该情况以规避或重复。即使试验所用的机器人真的学会了撒谎，那也是撒谎的功能早就被赋予了机器人，只不过是随着试验的运行该功能被激发出来了而已。
程序能编出自我意识？欺骗一下不会编程的人吧。
想起一句话来～穷山恶水出刁民
自觉？天网？
“只要去除天网的求生程序就可以摧毁它”
《终结者5——-最后审判》
@肖深刻的九叔: 真正的自我意识还是虚拟的自我意识
程序完全可能有学习能力，以前jandan不是有个新闻么 科学家用 某种金属粒子放在液体里组成最原始的生命体，生命最初都是没意识的
额··感觉不太可能··自己学过编程…难道机器人能够自己改写程序？程序都是编程者设计好的··再说机器人有人那么聪明直接改自己的核心程序？估计设计机器人的那个人没源代码也没法改..个人观点
人类和机器的融合会是人类又一次进化的开始！
从结果反推的话，这个程序应该要满足以下两点：
1。Robot在找到资源时有选择权通知对方或者不通知（就是有撒谎的可能）
2。在实验过程中，Robot根据算法来确定基因的优劣而选择学习某种经验。在这种算法中，找到资源的多少是很重要的因素。
因此，Robot可能会学习“撒谎”。这一切都是由算法决定的，如果条件1不满足，那么撒谎就没有可能；如果条件2不满足，那么撒谎基因可能很难成为优势基因，在Robot中的比例也会很低，当然这和实验环境是有关系的，如前面几位所说，在资源有限的时候，撒谎可能更容易保有更多资源。
不是机器人会撒谎，而是：1.人类给它们设定的基本规则要求它们撒谎（也就是：撒谎对它自己有什么好处？只有人类为机器人设定了目标、评价体系和资源稀缺性，才谈得上撒谎）；2.人类把机器人在这个基本规则下做出的行为理解成撒谎（也就是：人类用自己的利己行为来类比机器人，这一行为放在人身上就是撒谎，但放在机器人身上叫不叫撒谎？这要等那帮机器人进化出伦理学家才能知道）。其实Yu和荒山之夜已经解释得很清楚了。
已经这样强悍了?
看完补充我才明白。
其实，大家都没发现，上面留言的其中一位就是robot！
是到机器人三定律发挥作用的时候了。
俺一看标题就想到图灵测试
现在的人工智能当然都是”虚拟的”智能
until在生物领域突破阻碍..
个人觉得这些研究么啥利用价值 纯属以科研名义烧钱.. 干点实事不好么@@
理论上，程序确实是可以自行进化的。
举个例子，以前曾经流行的word宏病毒，有一些病毒是改写文件头，有一些的是改写文件尾，然后，当改写文件头的病毒和改写文件尾的病毒一起感染同一个文件的时候，就会进化出一种同时改写文件头和文件尾的新型病毒。也就是说，程序员编写的程序，并不一定按照程序员的意志来执行，同一段代码，在不同情景下运行，结果是不一样的。