@ 2017.06.08 , 11:00
36

人工智能的黑暗面

人工智能的黑暗面
credit: 锐景创意

去年,一辆奇怪的自动驾驶汽车被投放到新泽西州蒙茅斯县安静的道路上。由芯片制造商Nvidia(英伟达)的研究人员开发的这辆实验车看似与其他无人驾驶汽车并没有什么不同,但与Google,特斯拉或通用汽车公司所展示的车辆相比,它显示了人工智能能力的升级。这辆车并没有遵循由工程师或程序员提供的指令。相反,它完全依赖于一套通过观察人类来教导自己驾驶的算法来完成学习。

让一辆车如此行驶是一个令人印象深刻的壮举,但这也有点令人不安,因为人类并不完全清楚汽车如何做出各项驾驶操作的决定。在机器学习的过程中,来自车辆传感器的信息直接进入人造神经元的巨大网络,处理数据,然后传递操作方向盘,制动器和其他系统所需的命令给车辆。结果似乎与人类驾驶员的预期反应相匹配。但是,如果有一天它做了一些意想不到的事情——例如,撞倒一棵树,或者停在绿灯前呢?根据现有的技术,可能很难找出原因。由于该系统非常复杂,即使是设计它的工程师也很难提取出单一车辆动作的原因。并且你不能向控制系统提问:目前,还没有合适的方法可以设计一个总能解释为什么的人工智能系统。

这辆车的神秘“思想”指出人工智能一个迫在眉睫的问题。被称为深度学习的底层AI技术,近年来已经被证明在解决问题上非常给力。它已被广泛应用于字幕处理,语音识别和语言翻译等任务。现在,人类寄希望于同样的技术来诊断致命的疾病,做出价值百万美元的交易决定,和其他无数的事情来改变整个行业。

但这不会发生,或者不应该发生。除非我们找到方法,使深入深度学习的技术更容易被创造者所理解,并对其用户负责。否则,难以预测何时会发生故障,而且一旦发生,后果将无法避免,甚至不堪设想。 因此,Nvidia的自动驾驶汽车仍处于试验阶段。

人工智能的黑暗面
credit: 煎蛋画师seηz

数学模型已经被用来帮助决定谁被假释,谁被批准贷款,以及谁被聘请工作。如果我们知晓这些数学模型,可能可以理解决策背后的原因。但是银行,军方,雇主等等正在将注意力转向更复杂的机器学习方法,使自动化决策完全无法解释。深入深度学习作为一种常见的机器学习方法,代表了一种从本质上不同的计算机程序。麻省理工学院教授塔米·贾科科拉(Tommi Jaakkola)说:“这是一个已经(和人类)息息相关的问题,未来关系将会更加密切。无论是投资决定,医疗决定还是军事决定,人类都不希望只依靠黑箱算法。”

能够询问人工智能系统如何达成结论似乎应是一项基本的法律权利。从2018年夏天开始,欧盟可能要求公司能够给用户提供自动化系统决策背后的解释。即使对于看似相对简单的系统,例如使用深度学习来投放广告或推荐歌曲的应用程序和网站,这或许也是不可能的。运行这些服务的计算机已经利用程序以我们无法理解的方式完成了这些。即使是构建这些应用程序的工程师也无法完全解释程序的行为。

这引起了令人难以置信的问题。随着技术的进步,我们可能很快会越过一个门槛——超过这个阈值,使用AI需要一次观念的飞跃。诚然,我们人类也不能总是真正地解释我们的思想过程,但是我们可以直观地信任和衡量人们。对于与人类作出决定方式不同的机器人来说,这现实吗?我们从未建造以造物者不明白的方式运作的机器,却又如何与这些不可预知和难以置信的机器沟通交流?

为了探索这些形而上学的概念,我去了塔夫茨大学,与著名的研究意识和心灵的哲学家和认知科学家丹尼特(Daniel Dennett)会面。丹尼特最新的一本书《从细菌到巴赫,再反回来》(From Bacteria to Bach and Back),一本关于意识的百科全书式论文,表明智力发展的一个自然部分是发明能使其创造者无法解释的系统。 “问题是,我们如何明智地创造出这样一套系统?对于机器和我们自己,分别有什么标准?”他在他那坐落于田园诗般的校园内,但是杂乱无章的办公室里告诉我。

他还有一个关于追求可解释性的警告。 “我认为,如果我们要使用这些东西并依靠它们,那么让我们尽可能地掌控机器如何以及为什么给我们答案。”他说。但由于可能没有完美的答案,我们应该像对待人类彼此一样谨慎的面对AI的决策——无论机器看起来有多聪明。他说:“如果机器不能比人类更好地解释其行为背后的原因,那就不能予以信任。”

本文译自 MIT Tech Review,由译者 雁洲向北 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

4.7
赞一个 (13)

TOTAL COMMENTS: 36+1

  1. 节操巷
    @5 months ago
    3471645

    画的真好!

    [35] XX [0] 回复 [0]
  2. 3471648

    1)这文居然不在首页、更新页里,我是从WEIBO上看到转过来的。
    2)人类正面临创造一个非可控暗箱智能的边界上,普罗米修斯那个大卫就是将来最后的样版,看人类是否可以接受了。

    [8] XX [10] 回复 [0]
  3. 3471652

    42
    42
    和42

    [13] XX [4] 回复 [0]
  4. 3471653

    这画师厉害,还以为是照片。。。

    [11] XX [0] 回复 [1]
  5. 幕后煮屎者
    @5 months ago
    3471657

    人类:你为什么要干这种事情!
    AI:你听我解释!
    人类:我不听我不听!

    [67] XX [3] 回复 [2]
  6. you_know_who
    @5 months ago
    3471659

    大家都以为是“xx主 义,“XX社会”。

    现在才明白,人工智能才是最后一步!

    [10] XX [1] 回复 [0]
  7. 3471660

    画师是按照底特律:变人临摹的吗?

  8. 神的波纹
    @5 months ago
    3471662

    人工智能就是解放人类让我们能混吃等死的,但是我们要死的放心死的明白。

    [13] XX [0] 回复 [0]
  9. 3471664

    “智力发展的一个自然部分是 发明能使其创造者无法解释的系统。” 这话我都没看懂。

  10. 3471670

    倒不如说,应该是:
    人类:解释一下你这么做的理由!
    AI:好的!0010 10110 101010 010010 1
    人类:什么鬼!?

    [16] XX [5] 回复 [0]
  11. 3471709

    说的是没错,目前深度神经网络大部分工作都是调参,中间过程全是黑箱。
    我们只知道这样参数进去效果好,但是不知道为什么效果好。

    [17] XX [0] 回复 [0]
  12. 3471716

    想让人类理解AI的算法,人类就必须得有AI一样的智能,那是不可能的。人类连自己的行为都很难解释,却要求AI解释自己的行为,真是有点不要脸。
    不如接受事实,不管你信不信任,AI都没道理跟你解释。即便它解释了,你也听不懂。
    AI注定要成为另一种存在形态,并不会立于人类之下,不要试图驾驭在它上面了。

    [19] XX [4] 回复 [0]
  13. lavaskeleton
    @5 months ago
    3471721

    @lc: 你看不懂而已,一开始的电脑专家都是读机械语言的,虽然可能速度不快……..

    [12] XX [2] 回复 [0]
  14. 燃烧弹
    @5 months ago
    3471726

    五面怪赋予变形金刚智慧,结果被变形金刚推翻。萨尔娜迦创造了虫族,结果被虫族灭亡。

    [31] XX [1] 回复 [0]
  15. 3471741

    这才是ai啊,各种分析那种只是计算器而已

  16. 3471750

    关键不在于人工智能是否可靠,而在于能为人类提供多大的便利。手机导航也不可靠,但大家不都在用了吗?

  17. 紫色涩柿子
    @5 months ago
    3471756

    看着人类在作死的路上越走越欢,真心感觉终结者或是机械公敌那样的情节有一天会实现

    [10] XX [1] 回复 [0]
  18. 3471777

    看标题以为是介绍一种使用人工智能做出的一道黑暗料理..

  19. StanleyWen
    @5 months ago
    3471811

    说来说去麻烦还是在你们人类,把人类全部清除就好了啊

  20. 3471814

    底特律:我欲成人

  21. 3471845

    这个脸是完全对称的 感觉有点怪

  22. 猫小路
    @5 months ago
    3471854

    我想要质量效应仙女座上的人工智能sam

  23. 3471894

    @billd: 底特律早期的demo KARA 临半张脸编半张脸…所以下半部分有点假

  24. 3471926

    机器人被诊断患了精神病

  25. tomoyii
    @5 months ago
    3471969

    女孩那个图片我见过,是索尼PS4游戏的宣传视频截图。。

  26. 3471977

    app可以吐槽?

  27. Spector
    @5 months ago
    3472175

    看来我们的国家是人工智能领导的

  28. 3472200

    只要把人工智能造得和人类一样笨不就好了?

  29. 3472574

    就像我很难给蚂蚁解释我为什么刷煎蛋的时候要说快了一样难。

  30. 3472579

    这就像一个原始人点了一把火,但他预测不了这火会烧到哪片林子

  31. 李番薯
    @5 months ago
    3472676

    @who: 银河系漫游指南的梗?

  32. 双黄蛋
    @5 months ago
    3472819

    人类对智能的理解还很片面

    一如人类对环境的理解

  33. 3472871

    AI : why human ?

  34. 3472924

    文中有两处“深入学习”应该翻译为“深度学习”。其它地方都翻译对了,这两处我去查了原文,确是翻译错误。

  35. 分秒不争
    @5 months ago
    3473311

    我总觉得人工智能的发展是人类放弃思考的开端

  36. 3475370

    西部世界里面的机器人都会撒谎呢,哼哼

发表评论


24H最赞