@ 2014.07.07 , 09:00
23

有必要担忧人工智能造反吗?

[-]
最近,Elon Musk 做客 CNBC,就投资的人工智能研究公司 Vicarious 接受了采访:

问:你投资 Vicarious 的动机是什么?这个公司的主要从事何种研究?它目前的成果如何?

Musk:公司主要开发“递归皮层网络技术”,用以模拟人类大脑。

问:你希望保证这项技术良性发展,而不是像《终结者》中的那样危害人类?

Musk:是的。电影中的AI技术确实造成了严重后果,但并不是开发初衷。没有人希望造成这样的后果,不过我们必须提高警惕。

问:这是不是很讽刺。在开发最先进技术的同时,却担心这种技术会带来恶果。

Musk:的确。

的确很讽刺,这个像“钢铁侠”一样的技术狂热分子,却在担心人工智能某天会毁灭人类。而他投资研究公司的目的不是金钱,而仅仅是”监视“人工智能技术的发展。

如果如电影《超验骇客》中描述的那样,或许人工智能某天真的会消灭人类。不过,我们有必要如此担忧吗?

[-]
谷歌就如此担忧

纪录片制作人,同时也是《我们最后的发明:人工智能及人类时代的终结》一书作者 James Barrat 在接受采访时也谈到:

最终,我们创造的机器人,将比从事人工智能研究的专家还聪明。它们将具备快速学习能力。拥有自主学习能力后,它们将自主探索被设计时设定的目标,如太空开发,下棋,以及股票分析。为达到目标,它们将寻求更多的资源,如能量和金钱。它们会想办法让自己不死机,不断电。它们还会开发自我保护,资源获取程序。最终会不择手段获取自身所需。

不过,也有来自反面的声音:

大致来讲,如果未来机器人能与人类实现协作,将为科技创新迎来新篇章,为改善教育,消灭疾病等领域作出重要贡献。届时,机器人将可能拥有人类全部的情感(如饥饿和性欲),可以与人类和谐共处,而不是灭绝我们。

双方观点都无伤大雅,但争论的同时我们有没有想过,既然人工智能是灭绝人类的潜在因素,我们为何还不遗余力地探索开发?牛津大学人类未来研究院的 Stuart Armstrong 博士给出了观点:

“人工智能之所以被人们认为是威胁,一大原因就是它实在很智能,如果向邪恶方向发展,确实有可能灭绝人类。不过还存在其它许多灭绝人类的威胁,不过其中就算是‘核冬季’(指核武器爆炸引起的全球性气温下降)真的出现,也不会让所有人消失。”

从某些角度看,我们对待人工智能的态度,其实和对待外星人的态度差不多:未知数太多,担忧太多,却并没有充分的证据令人信服,它是否真的会终结人类。

本文译自 psmag,由译者 claudio 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

0.0
赞一个 (2)

TOTAL COMMENTS: 23+1

  1. Zhangzz
    @3 years ago
    2466603

    造反了是因为图纸拿倒了吗?

    [226] XX [1] 回复 [0]
  2. 2466605

    我大墙现在带有自学习模式分析,算不算人工智能?

    [47] XX [1] 回复 [0]
  3. 没拖鞋
    @3 years ago
    2466606

    no zuo no die , 老是感觉人工智能就像发明核武器一样, 双刃剑

  4. shadowlin
    @3 years ago
    2466612

    我的看法是如果真的以后人工智能全面强于人类,人类就此被取代也没什么不合理的。这也算一种进化和优胜略汰吧。

    [43] XX [5] 回复 [0]
  5. 2466613

    以后都电源外置,然后一不对头,切断电源线

    [32] XX [3] 回复 [0]
  6. 2466619

    不会,我已经被网络这个虚拟世界终结了

  7. 你咋不跑捏
    @3 years ago
    2466628

    又是一篇话题很大却言之无物的文章,无论正反双方观点都很单薄。????

    [13] XX [0] 回复 [0]
  8. 弹药专家
    @3 years ago
    2466633

    看了第一句 直接拉到了评论

  9. 2466635

    如果最后人类被人工智能灭绝,这也是很正常的一件事儿,灭绝在人类手里的物种还少吗?再多灭绝一个也很正常好吧。

    [13] XX [2] 回复 [0]
  10. 吐了一裤子
    @3 years ago
    2466636

    人类有一个作死的习惯,不论后果,先开发了再说。

  11. 贤三
    @3 years ago
    2466638

    推荐大家看看《艾比斯之梦》这本小说

  12. t13340
    @3 years ago
    2466656

    有性欲。。。。。

  13. Snokye
    @3 years ago
    2466686

    目前的人工智能最多就是一段设计开放的程序
    这段程序离产生自我意识还有一千年的距离

  14. sandersyao
    @3 years ago
    2466721

    其实吧 如果AI不强大 才会杀人 你问问工厂的工人就知道 没有安全生产致死致残的很多
    AI强大了 又拥有无限的寿命 又不怕损伤 为了获取能源还会在乎太阳系吗? 或者说谁能给我一个AI灭世的理由吗?

  15. 呐喊
    @3 years ago
    2466723

    任何超越人类的文明的智能,都会灭绝人类,就如同人类灭绝低智能的生物一样,智能与靠近威胁度越大。

  16. 2466862

    @sandersyao: AI 灭世的理由 很多, 最主要的就是心理因素, 以及 她如果看待 外部世界 和内在世界, 从而导致的 价值观 和 审美观, 骇客帝国里面 的 特工 就是 一种 任务机器人, 系统的杀毒软件, 但他同时也有人类的个性,有自己审美, 他觉得 人类是丑恶低等的, 要把全世界 全都复制成 他自己 , 销毁所有 其他程序, 除了 他自己, 这样系统就安全了… ——-而且这个 观点 在逻辑上是正确, 只是这 种终极安全 没什么意义,在人类看来; 同时 Oracle 也不同意这个观点, 在 矩阵系统里面, Oracle 负责 变化/进化(evolution)

  17. 鲫鱼
    @3 years ago
    2466870

    可是AI不需要氧气啊,没必要和人类争这弹丸之地啊。。。

  18. 卡卡罗特
    @3 years ago
    2466899

    @鲫鱼: 可是人类也不希望人工智能比自己聪明,首先挑衅的绝对是人类而不是人工智能

  19. 2467167

    咦,不可以限定他们储备知识的容量吗

  20. 魂淡i
    @3 years ago
    2467882

    有性欲怎么办,挡不住啊

  21. 纳兰名菜
    @3 years ago
    2468531

    人工智能一旦有了自我意识就是人类退出地球舞台之时 这是必然结局 时间而已

  22. 2469206

    咱就是去搜个名词,发现盗窃煎蛋文章的家伙太多了~

  23. 不爱大MiMi
    @3 years ago
    2469794

    问个问题,为什么要制造和人类一样聪明或更聪明的东西?
    制造一个非常先进的机器,让一个人来操作,还能装一个自毁系统,出问题了死一个人。
    制造一个先进又会思考的机器,它知道了所以的事情,包括自己的构造,那个自毁系统分分钟修正,突然有一天发现人类要消灭自己,好啦人类晚安。

发表评论


24H最赞