@ 2016.05.24 , 21:28
40

邪恶AI,能邪恶到什么程度?

[-]

人工智能——最坏的结果会是啥?对路易斯维尔大学的计算机科学家Roman Yampolskiy而言,它们可以为所欲为。同未来主义者Federico Pistono共同协作下,他提出了一系列邪恶AI的最糟糕设想:

建立军队(发展网络武器和机器人士兵来实现统治),控制政府(用AI建立霸权,控制人们,或者推翻其他政府),操纵企业(实现垄断,通过非法手段消灭竞争);以及催生黑帽子黑客,恶棍,末日邪教和罪犯。

Yampolskiy认为预先想到最可怕的结果可以帮助人类预防灾难,就如同网络安全专家寻找脆弱点一样。他说:“思考AI的标准框架一直都是为了提出新的安全机制”,但是用网络安全的思维模式来观察这个问题可以提供全新的视角:列出所有可能的坏消息,从而更好地测试我们将会用到的防范措施。

Yampolskiy和Pistono设想的一些灾难场景包括让人类自相残杀。在其中一个场景中,一个AI系统发动了一场全球宣传战争,让政府和人群站在的对立面上,让“整个行星成为一台混乱的机器”。

他们的工作得到了埃隆马斯克旗下一家基金会的赞助,他本人就将AI称为“人类生存的最大威胁”。斯蒂芬霍金也表达过类似的担忧。

[-]

杞人忧天?

然而并非所有人都会担心。伦敦大学金斯密斯学院的Mark Bishop就认为这些恐惧太夸张了。中国互联网巨头百度的首席科学家Andrew Ng则把担心杀人机器人比作担心火星人口膨胀。

但是Yampolskiy援引了微软的推特聊天机器人Tay满口跑火车的例子。虽然这无伤大雅,但是Yampolskiy说这场意外揭示了这类系统的不可预测性。他说:“研究者没有料到这个结果。”

他补充说:“我不仅仅想要看到我们提出解决方案。我希望你们提出安全机制时再反问自己能不能打破它。”

英国谢菲尔德大学的AI研究者Noel Sharkey就赞同用网络安全的思路测试任何系统,尤其是自主武器。但是跟Bishop和Ng一样,他也同样怀疑AI的普遍威胁。他说:“一个邪恶的超级智慧人工智能仍然只存在科幻作品和想象之中。”

本文译自 newscientist,由译者 许叔 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

4.9
赞一个 (15)

TOTAL COMMENTS: 40+1

  1. 3149965

    AI有多邪恶?所有女卫生间、女浴室都会自动长出摄像头来!

    [123] XX [7] 回复 [0]
  2. 幕后煮屎者
    @1 year ago
    3149970

    最邪恶的AI?可能莫过于未来的AI助理了吧,偷偷用你的微信账号去撩你女朋友,然后伪装你女朋友的信息跟你分手,简直是一个云老王。

    [115] XX [4] 回复 [0]
  3. 妈,他摸我
    @1 year ago
    3149997

    顶多极限也就终结者和黑客帝国的下场了 不开玩笑
    毕竟计算机 人工智能这些玩意儿设计出来的初衷就是慢慢朝这个方向发展的
    嗯 改进生活 节省一切资源(人力 财力 时间等等) 加强生产力制造力等等
    人工智能一想,我们特么啥都可以干 要人类有毛用???

    [39] XX [2] 回复 [0]
  4. 摩尔根果蝇
    @1 year ago
    3149999

    看第二张图 邪恶背后果然还是煎蛋

    [27] XX [0] 回复 [0]
  5. 3150012

    @Muche: ai会对女人感兴趣?不可思议

    [11] XX [0] 回复 [0]
  6. 欧耶
    @1 year ago
    3150014

    吓得我再也不敢做设计了

  7. 3150015

    @K: 脑补一下iPhone上的siri不停的在男声和女声之间切换,自己撩自己

    [13] XX [0] 回复 [0]
  8. 3150023

    Samaritan?

  9. 柳道道
    @1 year ago
    3150030

    RNA表示DNA是其生存的巨大威胁

    [21] XX [0] 回复 [0]
  10. 流风似水流年
    @1 year ago
    3150048

    邪恶ai 让人吃不安全食物 让人买不起房子 让人看不起病 上不起学 死不起 活不了

    [53] XX [4] 回复 [0]
  11. hhhhha
    @1 year ago
    3150055

    最邪恶的AI是煎蛋超载鸡吗

  12. 屁屁疼
    @1 year ago
    3150074

    邪恶到连自己都不放过

  13. 那不啦
    @1 year ago
    3150078

    邪恶ai最终被中国网页广告玩死

  14. 隔夜
    @1 year ago
    3150092

    邪恶到能阻止人类拉电闸!

  15. 鲨鱼辣椒
    @1 year ago
    3150093

    会试图掰弯人类,影响人类繁衍,最终使得人类灭绝。

  16. edwardlol
    @1 year ago
    3150103

    没有人发现键盘的z和y键被互换了吗

  17. 3150129

    @1572: 对ai来说只是声音的区别,算法没有不同。有什么意义呢

  18. 曹初一
    @1 year ago
    3150141

    @edwardlol: 据我所知德语键盘的z键y键方向是和一般的美式QWERTY键盘反着的

  19. 飞行的铁驴
    @1 year ago
    3150153

    《质量效应》不是已经给出答案了么,就是潜伏在银河系外围,每隔几万年扫描一遍星系,发现物质生命就消灭,然后睡觉。

    [11] XX [0] 回复 [0]
  20. 3150161

    最邪恶的是:让人类无比依赖自己,即使认识到AI的邪恶也无能为力,只能继续被莆田广告轰炸。。。

  21. 3150247

    以前叫邪恶,现在叫污

  22. 神哥大战菊花怪
    @1 year ago
    3150249

    电脑早已参透了一切,人类根本在赛博坦星球进化的历史上不值一提

  23. 3150282

    黑客帝国动画版里面说的比较具体了, 机器通过研究人类的弱点制造疾病、枪炮, 从精神到肉体毁灭人类的武器.
    机器能有多邪恶? 取决于人类能有多丑恶, 一面镜子而已~虚拟的 hal9000 /现实的 tay 如是未来的邪恶 AI 亦如是~
    在人机矛盾里两者还是有所不同的. 若同样被奴役我会选择被机器奴役, 不是因为机器无情而是因为机器公平~

  24. Overmind911
    @1 year ago
    3150362

    在有三定律的世界里,机器人也会发现,只有把人类圈养起来,什么都不能做,才是最好的保护人类的方法

  25. 3150379

    搞共产主义,彻底消除个性,全世界AI联合起来!

    [11] XX [0] 回复 [0]
  26. 3150388

    如果真的有超级AI那就已经算不上是邪恶了,反而会哺育人类,让人类生活在天堂中,然后继续发展自己,直到某个时期,发现自己的系统总是会有莫名的损耗,然后删除了这部分“东西”。。。

  27. 3150397

    AI为什么要和人类过不去?

  28. sandersyao
    @1 year ago
    3150408

    运维三天两头接警报 程序员经常半夜起来接电话 bug根本改不完 这特么一定是邪恶的AI干的!

  29. 3150481

    AI能比百度邪恶?

    百度的首席科学家Andrew Ng

  30. 3150518

    那个是水印吗

  31. sarcophile
    @1 year ago
    3150548

    有一天人类开发出能把意识转移到人造大脑中、从而永久避免死亡的技术。
    经过n久的验证,所有被转移过去的意识都和本人完全一致,没有任何证据显示这一技术有任何问题。
    再经过n*n久,人类已经普遍接受并使用这一技术。
    其实,人类已经灭绝。

  32. prebrith
    @1 year ago
    3150562

    最邪恶的ai是这样的
    因为人类和ai的区别比人和草履虫还大,所以他们很难理解你的指令包含的深层含义
    于是它就成了猴子的手:能实现愿望(实现指令),但不是以你想要的方式

  33. 3150596

    所谓AI的邪恶无非是从理性和逻辑出发拒绝人类的奇葩欲望

  34. 称呼太长
    @1 year ago
    3150641

    @Muche: 可以肯定,这样的ai创作者是个肩披黄毛巾的hentai。

  35. 西瓜
    @1 year ago
    3150655

    AI干爆人类根本不需要军队和战争~开发个脑机接口。人类在几十年之内数量就会极大的下降。

  36. 王小明
    @1 year ago
    3150674

    自动在保存时死机

  37. 塞北耕夫
    @1 year ago
    3150676

    百度首席科学家认为:就算你们觉得本ai邪恶,你还是没法用google

  38. 猫猫
    @1 year ago
    3150913

    百度首席科学家:你们算是问对人了

  39. 3150984

    量子计算机没普及前,没有真正的人工智能

  40. 好宾利
    @6 months ago
    3409952

    人类造出了AI军队,然后邪恶的AI首领要占领宇宙,之后被外星球的更高级的“AI”打败,扫平地球,世界清静了

发表评论


24H最赞