人工智能
好消息坏消息?机器人也会撒谎呐
[-]
这是在瑞士洛桑Ecole Polytechnique Fédérale 大学实验室里的一实验,他们一共使用了1000个智能机器人,分成了不同的10组,要他们协同合作去某个地方搜索一些目标的资源。其中也有遇到一些有毒资源,这需要机器人们去判断。
每个机器人都有一个传感器:定位用。一个蓝色的小灯:那个小灯是,当机器人找到了指定目标时便会打开灯通知对方。
最终要的是,每个机器人都有属于自己一个264位二进制代码‘基因组’,它能对不同外界刺激的反馈(实际上就是他们的智商)。并且‘基因组’会让机器人们随着实验的进程而累计不同的经验(有时候甚至从对方那里学习,研究人员描述其为基因进化)从而传输下一批参与实验的机器人中。
研究人员发现当但‘基因组’进化到第九批时,每个机器人都成了资源搜索专家,并能通过通讯装置告诉同伴目标资源的位置。
但基因组进化到500批时,有60%的机器人们开始向对方撒谎,即便是他们已经找到目标资源也不会通知对方。相反,遇到有毒资源时,还会欺骗对方打开自己的蓝色小灯。继续发展,研究人员发现有1/3的机器人开始学会找出撒谎者。
研究人员认为这一过程有点类似真正自然界生物的演变,机器人会随着自己智商的提高而显现出各种不同得‘善恶本性’。这是好事还是坏事呢?!来源
Yu 补充说 :
这个实验oioi没说清楚,或是原文没说,就是:这些机器人有没有必须生存(运行)的指令。生存(运行)的指令和必须找到资源的指令效果一致
总的而言,有这么个思想框架:生存进化中,资源越匮乏,攻击性越强。对于生物界,存活的个体不断积累,自然就有了渴望生存的基因(反证证明,简单说就是如果生物没有渴望生存的基因,它就很容易灭亡,这种基因也就留不下来),为了生存就得得到资源,资源匮乏就得争,争着争着就进化出了攻击性。所以我在看《异形》时觉得真实些,异形的星球烂的根本没法活,所以异形的攻击性非常强。
这个实验,如果这些机器人有没有必须生存(运行)的指令,结果就没什么大惊小怪,它们会中规中矩,大不了坏了有人修。不过如果有必须生存(运行)的指令,并且它们
有进化功能,即使再简单的进化功能,也会进化出攻击性。其实攻击性的目的是得到资源,撒谎也能达到这个目的。看上面有人说到《黑客帝国》,道理和这一样的。