@ 2014.07.07 , 09:00

有必要担忧人工智能造反吗?

[-]
最近,Elon Musk 做客 CNBC,就投资的人工智能研究公司 Vicarious 接受了采访:

问:你投资 Vicarious 的动机是什么?这个公司的主要从事何种研究?它目前的成果如何?

Musk:公司主要开发“递归皮层网络技术”,用以模拟人类大脑。

问:你希望保证这项技术良性发展,而不是像《终结者》中的那样危害人类?

Musk:是的。电影中的AI技术确实造成了严重后果,但并不是开发初衷。没有人希望造成这样的后果,不过我们必须提高警惕。

问:这是不是很讽刺。在开发最先进技术的同时,却担心这种技术会带来恶果。

Musk:的确。

的确很讽刺,这个像“钢铁侠”一样的技术狂热分子,却在担心人工智能某天会毁灭人类。而他投资研究公司的目的不是金钱,而仅仅是”监视“人工智能技术的发展。

如果如电影《超验骇客》中描述的那样,或许人工智能某天真的会消灭人类。不过,我们有必要如此担忧吗?

[-]
谷歌就如此担忧

纪录片制作人,同时也是《我们最后的发明:人工智能及人类时代的终结》一书作者 James Barrat 在接受采访时也谈到:

最终,我们创造的机器人,将比从事人工智能研究的专家还聪明。它们将具备快速学习能力。拥有自主学习能力后,它们将自主探索被设计时设定的目标,如太空开发,下棋,以及股票分析。为达到目标,它们将寻求更多的资源,如能量和金钱。它们会想办法让自己不死机,不断电。它们还会开发自我保护,资源获取程序。最终会不择手段获取自身所需。

不过,也有来自反面的声音:

大致来讲,如果未来机器人能与人类实现协作,将为科技创新迎来新篇章,为改善教育,消灭疾病等领域作出重要贡献。届时,机器人将可能拥有人类全部的情感(如饥饿和性欲),可以与人类和谐共处,而不是灭绝我们。

双方观点都无伤大雅,但争论的同时我们有没有想过,既然人工智能是灭绝人类的潜在因素,我们为何还不遗余力地探索开发?牛津大学人类未来研究院的 Stuart Armstrong 博士给出了观点:

“人工智能之所以被人们认为是威胁,一大原因就是它实在很智能,如果向邪恶方向发展,确实有可能灭绝人类。不过还存在其它许多灭绝人类的威胁,不过其中就算是‘核冬季’(指核武器爆炸引起的全球性气温下降)真的出现,也不会让所有人消失。”

从某些角度看,我们对待人工智能的态度,其实和对待外星人的态度差不多:未知数太多,担忧太多,却并没有充分的证据令人信服,它是否真的会终结人类。

本文译自 psmag,由译者 claudio 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力 !
支付宝打赏 [x]
您的大名: 打赏金额:

0.0
赞一个 (2)

24H最赞