@ 2016.10.08 , 23:00
17

MIT新研究:如何自动驾驶汽车作出道德抉择

[-]

我们人类经常会犯这样那样的错误,不是把钥匙放在冰箱里之类的小错,就是把烤箱开上一整天这样的致命错误。我们通常会表现得鲁莽,健忘,自负,难以集中注意力——一些当我们以百公里时速驾驶一辆两吨重的金属机器穿越大街小巷时极为致命的特性。导致车祸的五大首要原因有四项可归结为人为失误。

电脑,相比之下,就有着极为务实的思维。它们以程序设定的,经过计算的方式来收集数据并作出反应。自动驾驶车辆已经显示出了相比人类驾驶更高的安全性。近几年人工智能方面的进步速度甚至使得一些专家预言2030年前人工驾驶将被非法化。

“机械智能可能需要处理一些棘手状况:为了使某些人存活某些人必须得死。”

不过,正如大部分司机所了解的,驾驶可能需要你在不到一秒内做出没有明确答案的抉择。一只小松鼠冲到路上——你会冒着撞上其他车辆的危险突然转向,还是径直开过去并祈祷松鼠还活着?如果是狗呢?又或者是个罪犯?又或者是孩子?到底哪些生命是值得你冒险的?这些问题困扰着全球的研究者们。现在他们将从你们身上寻求答案。

“自动驾驶车辆现在已是大势所趋。”

麻省理工毕业生以及研究助理Sohan Dsouza告诉Digital Trends“这是件好事,大体上来说,因为它们每天将拯救无数正因人类司机的失误而丧失的生命并给无数没有驾驶能力的人带来独立的机动性。”

[-]

为了达成这个目标,Dsouza,Edmond Awad,以及他们在MIT媒体实验室的研究团队开发了道德机器,一个使使用者接触道德抉择,询问他们一辆自动驾驶车辆应当如何应对的平台。每个场景都提供了一些背景要素,包括受害者的年龄性别,他们的社会地位,以及他们是否遵纪守法。参与者被要求在13个两难境地中做出抉择。这些结果被作为众包数据堆积起来,并在未来用于伦理仪器的开发中。在做出抉择后,用户还可以比较其他用户的选择,甚至设计自己的场景供他人解答。

“我们的主要目标之一就是在公众中引发争论,”Dsouza说“特别是引起用户,制造者,保险业者以及官方人员间的对话”

“不是所有的车祸都可以避免,而自动驾驶车辆需要处理你死或是我亡可能性依然存在,很像是经典的哲学问题,即著名的电车变轨问题。“

人们琢磨电车问题将尽50年了。其中,一辆列车正行驶在即将撞死五人的原轨道上。你有一个开关可以使列车变轨,使其只会撞死一人。你会干预还是袖手旁观呢?

“对于这些可能性很少有基于实验的研究,”Dsouza说,“介于此,我们需要制造一个平台来生成大量具有复杂因素的场景并以一种易懂易用且身临其境的方式把它们呈现给用户,以此来建立人们如何看待及其所做出的道德选择的模型。”

道德机器已经收集了在1100万场景中人们的答案。尽管团队还没开始对这些数据深入分析,但他们已经发现地区差异暗示了未来研究路困难重重。“平均下来,来自西部乡村地区的参与者更为重视减小伤亡数目的价值——也就是说,相比东部人,他们更赞同功利主义的选择。“

揭示这些文化差异给未来的辩论与对话埋下了伏笔,这对于研究至关重要。“我相信我们已经造成了影响”Dsouza说“这些对话最终将帮助利益相关者在立法,责任评估,道德舒适感以及公共安全上达到平衡。”

本文译自 Digitaltrends,由译者 Quan 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

4.8
赞一个 (2)

TOTAL COMMENTS: 17+1

  1. 3275546

    一个问题,如果要撞死路人和撞死自己之间,原因在于驾驶者时,机器会如何选择?把车上的人弄死?有人会买这样的车吗。。。。

    [24] XX [1] 回复 [0]
  2. 。。。。
    @1 year ago
    3275547

    你的自动驾驶汽车可能会为了避免撞一个小孩而让你淹死在河里或者撞死在树上

    [27] XX [0] 回复 [0]
  3. 琪露诺
    @1 year ago
    3275548

    只需让汽车做出360°大回旋

    [21] XX [1] 回复 [0]
  4. 3275550

    优先保司机咯

  5. 哇哈哈
    @1 year ago
    3275551

    感觉卖这个系统前直接让买家签署一个霸王责任书,让买家自行承担责任呗。还有,看到很多车有自动泊车系统,想问下这个撞到人怎么算的?

  6. 哇哈哈
    @1 year ago
    3275552

    好吧,通读了全文。原来并不是道德问题啊,只是说现阶段没有技术能保障不出车祸。而是讨论如果现在用了这个不够完善的系统,当故障将要出现的时,如何推卸责任。

    [4] XX [11] 回复 [0]
  7. 秒杀磁暴步兵
    @1 year ago
    3275553

    秒杀磁暴步兵

  8. 琪露诺
    @1 year ago
    3275560

    当然是让汽车做出超屌的360度大回旋

    [16] XX [0] 回复 [0]
  9. 哈佛教授
    @1 year ago
    3275562

    出了车祸该把锅甩给谁

  10. ranger27
    @1 year ago
    3275620

    仅凭直觉我肯定会干预,死一个总比死五个好,特别在事故责任人是我的情况下。如果责任不在我这,且当时来得及思考,可能不会干预。因为那是上帝决定的事,干预属于越权行为,波函数都那样坍塌了有啥办法?

  11. changshengbubai
    @1 year ago
    3275696

    @g: 这问题没有争议,因为真人驾驶也是第一选择保护自己,很多还是下意识的去做。

  12. Snokye
    @1 year ago
    3275727

    汽车厂商去抉择吧,反正他们敢做出一点点对车主不利的决定,最先死的不是车主,而是汽车厂商。

  13. 3275762

    这个标题是什么鬼

  14. 周日游鱼
    @1 year ago
    3275872

    貌似特斯拉已经给出了第三个选择:开车的司机去死 ^_^

  15. 好好好
    @1 year ago
    3275904

    保持驾驶位有照有人就行,没那么麻烦,所以美国最广泛的职业,卡车司机暂时还不会失业

  16. anxing
    @1 year ago
    3275958

    人都没法抉择,只能靠本能,还写个毛的程序让计算机抉择啊

  17. 灰尽
    @1 year ago
    3276075

    假如一个自动程序有权诀定一个人生死,还要法律有何用?

发表评论


24H最赞