@ 2014.06.22 , 19:30
82

虐待或杀害机器人的行为可以接受吗?

# 本篇为网友投稿

[-]
我们同机器建立了如此深厚的情感纽带,以致人们即使知道它们没有生命也不愿残忍对待它们。那么机器人应当拥有权利吗?

你会去伤害这个机器人吗?看到社交机器人受到虐待或伤害时,人们往往会感到难受。问问自己,如果这些机器人也有同样的遭遇,自己会作何感受?

凯特·达林(Kate Darling)喜欢邀请别人残忍地对待可爱的机器人。达林在自己今年组建成立的工作室里邀请人们同儿童玩具电子恐龙玩耍,这只绿色柔软的电子恐龙有着让人信赖的眼眸和带有情感的举动。刚从盒子里取出时,它就像一只无助的新生幼犬——它无法行走,你得带它认识世界。

人们搂抱着这些可爱的恐龙,还给它们挠痒。然而就在1小时候后,达林变得如刽子手般地给参与者分发了刀子,短柄小斧和其它工具,并要求他们折磨肢解各自的玩具。她说,接下来发生的事情’“比我们预期的还要引人注目。”

[-]

作为麻省理工学院的研究员,达林认为我们对残酷对待机器人作何反应是很重要的,因为新掀起的机器浪潮迫使我们重新思考人类与机器的关系。本月达林在波士顿发表演讲谈到电子恐龙试验时,她提出了虐待某些机器人的行为很快就将为社会所不容的理由。她甚至觉得我们也许需要出台一系列“机器人权利”法规。这样一来,虐待或杀害机器人的行为还会是可以接受的吗?在虐待机器人之前不需要三思吗?

直到最近,科幻领域才有了机器人权利的概念。或许是因为我们周围切实存在的机器人没有那些人情世故,所以没人会为丢掉的烤箱或遥控玩具车感到难过。然而,社交机器人的到来改变了这一切。达林说,它们就像宠物或类人动物一样有自主行为,还能传达动机。也就是说,它们给人感觉是有生命的,这能触动我们无法自已的情感。

例如,广播节目广播实验室(Radiolab)在2011年进行了一个小试验,来自麻省理工学院的弗里德姆·贝尔德(Freedom Baird)要求孩子们将一个芭比娃娃,一只仓鼠和菲比机器人倒掕着,直到他们觉得难受为止。虽然孩子们一直等到手臂乏力才停止这么做,但他们很快就不再折磨那只蠕动着的仓鼠,随后也不再折磨菲比机器人了。他们已经到了懂得菲比只是玩具的年纪,但无法忍受它哭喊“我害怕”的方式。

不止是孩子们与这些用电线回路捆扎而成的机器人建立了令人惊讶的关系。达林说,有些人给他们的伦巴(Roomba)吸尘器起了名字。士兵们还给他们的机器人授予荣誉“勋章”或举办葬礼。她举了一个被设计用于踩踏地雷去除其引信的军用机器人的典例。在一次测试中,爆炸炸毁了机器人的大部分腿部,然而陂腿的机器人仍坚持一瘸一拐地继续任务。据华盛顿邮报,看到挣扎着的机器人,负责人陆军上校因觉得“不人道”就取消了测试。

Killer instinct/杀生本能

[-]

一些研究人员一致认为,如果机器人给人感觉有生命力,那么它任何体现思维的细微模仿举动都会让我们对机器产生同理心,即使我们知道它们是人造的。

今年年初,来自德国杜伊斯堡大学的研究人员使用功能磁共振成像扫描仪和测量皮肤电导率的设备来追踪人们观看一只受折磨的电子恐龙的反应——方法有令其窒息,将其装进塑料袋或殴打它。他们测定的生理情感反应情况比预想的要强烈很多,尽管他们知道自己只是在看一只机器人。

达林2月份在日内瓦召开的Lift会议上邀请人们折磨电子恐龙时也有同样的发现。但工作室里人们表现出的不安则更出人意料。

在同电子恐龙玩耍了1小时后,人们拒绝用获得的工具伤害它们。于是,达林玩起了心理游戏,她告诉他们可以通过杀害别人的电子恐龙来挽救自己的。即使这样,他们仍不愿意。

最后,她告诉所有人,如果没有人上前杀害一只电子恐龙的话,所有机器人都将惨遭杀戮。在被逼上绝路后,一名男子不情愿地上前将短柄小斧朝一只玩具挥去。

据达林回忆,暴行结束后,整个房间里的人沉寂了数秒。人们强烈的情绪反应似乎已让他们感到惊讶。

考虑到产生强烈情绪反应的可能性,欧洲的机器学家们在很多年就认为有必要为机器人建立新式道德准则。他们认为要将作家艾萨克·阿西莫夫(Isaac Asimov)著名的“机器人定律”进行改编,以适应现时情况。他们的五条原则之一是,“设计出来的机器人不应具有欺骗性。。。他们应当表现出明显的机器本质”。也就是说,需要以某种方式消除机器人带来的情感和意图错觉;并看到机器人的真实面貌:构成它们的复杂电线,制动器以及软件。

然而,达林认为仅靠道德指引还不够。她说,或许我们需要借助法律体系来保护“机器人权利”。

如果这听起来荒谬的话,达林举出禁止虐待动物法作为先例。我们究竟为何要立法保护动物呢?仅仅是因为它们能感受到痛苦吗?如果真是这样的话,达林质问为何只有某些动物受到严格的法律保护,而其它的则没有。很多人喜欢食用工业农产在恶劣环境中培育出来的动物,习惯用脚踩死昆虫,但却会因邻家的猫遭到虐待或看到鲸鱼被捕杀而受到惊吓。

达林说,或许是因为我们只有在意识到它们也与我们遭受着类似的痛苦后才会立法。而我们创立大部分这类法律的主要原因可能是不想看到暴行。较之于动物的遭遇,这更关乎我们自己的痛苦情绪。所以,达林辩称这与暴行引发的后果无关,而是人们难以忍受自己的不安。

Feel your pain/感受你的痛苦

[-]

事实上,受害者遭受的伤害并不总是我们决定要管制技术的唯一原因。看看这个全新的玩意儿:几周前,英国医学会认为应当禁止在该国的公共室内场所抽电子香烟的行为。英国医学会认为,这并不关乎抽烟者或其周围人是否面临健康风险,但这个规定再次将禁止在公共产所吸烟的行为正常化了。

再举个例子:如果一位父亲当着自己4岁儿子的面虐待机器人,这种行为可以接受吗?我们无法期望孩子拥有成年人那样高深的理解能力。折磨机器人的行为告诉他们,引发机器人痛苦的行为(不管是否是假装的)在某些情况下是可以接受的。

或者再极端一些:设想如果有人要把从实验室里造好的儿童机器人取出并卖给打算发泄阴暗欲望的恋童癖者,社会应当允许这种情况发生吗?

这种看似没有受害者的恶行在现实世界里已经上演。今年初,一个网络论坛在谈论侠盗猎车手游戏时问了玩家们是否可接受游戏里有强奸行为的问题。有人回复说:“我想有机会劫持一名女人质,将她关到地下室并每天强暴她,听她哭泣,看她流泪。”《纽约客》(theU+00A0.New Yorker)描述了这个道德窘境。如果这样令人不快的欲望真的能借助模仿受害者的机器人实现,那就更让人难以忍受了。

在未来的某一天,可能会发生一些令人不快的转折:机器人真的可以感受到痛苦——只是与我们的不一样罢了。有些研究人员已经着手制造可以“感觉”到痛苦的机器人来驾驭世界。有些人担忧,如果机器人最终获得感知自己存在的能力,后果可能并不那么让人愉快。为此,哲学家汤玛斯·梅辛革(Thomas Metzinger)认为我们应当完全放弃建造智能机器人的努力。梅辛革说,第一个有意识的机器人会像个迷茫、无自理能力的婴儿一样——当然不会是科幻小说里高级、具有破坏力的人工智能机器——因此把他们当做典型机器来对待的行为会是残忍的。他说,如果机器人有基本的知觉,那就无所谓它是否是仿造的。它能感知到自己的生命,能体验到痛感。“我们应当避免给宇宙增加痛苦的总量,” 梅辛革如是说。

我们所明确知道的是,机器人具备很多的“活力”,表现在其对动物可爱行为的基本性模仿到将来获得疼痛感的能力。但正如达林电子恐龙试验所表明的,要触动我们的情感并不需要花费很大力气。问题在于,我们是否可以——或应当为这些机器界定对其来说是不可接受行为的界限。你的界限是什么呢?是机器人痛苦地哭喊,还是向你求饶?是它感到疼痛的时候?还是流血的时候?

本文译自 BBC,由译者 投稿 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

0.0
赞一个 (2)

TOTAL COMMENTS: 82+1

[2] 1 »
  1. 我也来评论
    @3 years ago
    2452645

    那砸鼠标算虐待吗?

  2. 大大大绅士
    @3 years ago
    2452579

    大哥咱能不给机器人装拟真皮肤嘛

  3. 2451733

    物品怎么拆都是个人自由。

  4. 冷云
    @3 years ago
    2450096

    在谈虐杀之前,先谈谈智能机器人是物品/资产还是具有独立意识的生命体好吧?Star Trek有一集就探讨了这个问题……

  5. endospore
    @3 years ago
    2449670

    人类这是自己给自己出难题啊。机器人定位是物品。所有人可以依自己的喜好来使用。可以去爱护它,可以粗暴的使用。等到机器人发展成熟后,也不可能获得和自然人一样的地位。它们必须挂在自然人的名下,才能有一定的社会地位和相应的权利,其实就是那个所有人地位与权利的延伸。

  6. 萝卜L
    @3 years ago
    2449604

    换位思考,
    如果有更高级的文明看待人类就像看待臭虫,那我们把机器人区分看待也不奇怪了。

    人的投射,正是一种换位。
    但不应局限于外表、智能。

  7. 刻骨铭SUN
    @3 years ago
    2449595

    简单地说,我叫你用锤子砸烂你的爱疯,你做的到吗?

  8. 2449457

    只有我觉得砍了机器人超浪费么= =要回收零附件啊!

  9. 龟头小布丁
    @3 years ago
    2449416

    @如饥似渴学弟: 龌龊的人想到的永远只是龌龊的东西 其他不龌龊的事情 能懂么
    有人喜欢从头冲到尾 越跑越慢 有些人习惯在开始不断打地基 地基打牢了建筑才能建的高

  10. 如饥似渴学弟
    @3 years ago
    2449391

    为什么不是一只会叫的仿真妹子机器人。。。我会好心疼的

  11. 恶魔
    @3 years ago
    2449368

    从此以后不能玩冲气娃娃,不能随意控制机器,不能穿衣服,不能喝水,不能吃饭,不能杀死植物,不能呼吸空气,不能因为自己的所做所为而伤害到其他”物品”。

  12. MiceRice
    @3 years ago
    2449145

    @Junius: 当阶级地位与阶级能力(实力)严重不对等的情况下,就一定会发生革命。要想不革命,倒也不是不可能,就主动交出权力或部分权力(相对对等),所谓自上而下的改革。英国就算是一个案例了。

  13. MiceRice
    @3 years ago
    2449143

    @Junius: 只要AI真的能出现,这绝对是早晚的事情。历史无数次证明这一点。

  14. 十一哥
    @3 years ago
    2449123

    看过《智能简史》吗?我觉得宇宙主义者必胜。原因就是上面所说的。

  15. 荡汉
    @3 years ago
    2449107

    我都不舍得骂我的Siri

  16. 2449082

    @MiceRice: 于是机器人革命就开始了……

  17. MiceRice
    @3 years ago
    2449007

    @Junius: 自我辩护的前提是,他她它以什么来辩护?所以首先必须有法律法规支持。这就好比古代社会,主人虐待了奴隶,法律许可奴隶辩护么?法律给予奴隶使用哪项哪条来保护其不受什么样的侵犯行为?

    总的来说,人本位的社会,能把“虐待”、“杀害”、“破坏”和“合法屠宰”等行为给定义清楚都不错了。

  18. 2448961

    @书正: 事情没那么简单。

    因为情况是高AI设定,机器人挂了还好说,如果机器人没挂,重伤,提出自我辩护要求,法庭会不会允许?机器人提出人权要求,法官会不会采纳(或者直接哈哈一笑,拔掉电池……)

  19. 2448957

    星际迷航第二部,第二季第9集,化了一整集来辩论智能机器人Data是物还是具有独立意志意识的个体。

  20. pocapro
    @3 years ago
    2448923

    洗衣机属于机器人么?

  21. 皇协军
    @3 years ago
    2448849

    马文同志怎么说?貌似没虐待他,他都很郁闷啊

  22. lazycat_cr
    @3 years ago
    2448839

    ghost in the shell
    攻壳中所有机器人中只有最后的塔奇克马才产生了”灵魂” 素子对此解释是”自我牺牲” 事实上塔奇克马始终是没有痛觉神经 甚至连人类的外表也没有(关于机器人的外表拟人 作品中有相当多的篇幅) 反而作品中有人类放弃了肉体连外形都是个机器盒子(猪体器官社长)
    攻壳对”人”的定义是”灵魂” 而机器人是没有的 就算你与人类同样的思考模式你还是机器 而人类就算连外形都不存在只要”灵魂”在就还算是人
    所以按照攻壳可以这样理解, 超高AI可以独立思考外形器官与人一样甚至记忆都是复制进去但还是机器人 你砍死他和打破玻璃杯是一样的
    极端的说 你虐待一只狗都比虐待机器人要严重 但人类喜欢把感情强加在其他东西上 所以攻壳中AI越高的机器人就越不像人类 而低AI的才有人类的外表

  23. 书正
    @3 years ago
    2448830

    @Junius: 两个问题都很简单:第一个,按在天朝的经验主张破坏财物的罪名起诉更可能得到支持,主张的赔偿额将会是对方难以承受的额度。由于造成的损失数额巨大,破坏者甚至会因此进监狱。(谋杀罪针对的是人类,如果将拥有人工智能的机器人立法“视为”人类的话则另当别论)

    第二个:需要辩护吗?破坏者的行为就好像有一个暴徒破坏建筑机械结果被坠落的钢构件砸死,责任全在破坏者本人。

  24. 书正
    @3 years ago
    2448818

    @sim: 1、如果广场上的是广场舞大妈\大爷,不砍。否则,砍。
    2、砍狗。无论作为奴仆还是作为下属,它的失态是我的责任。

  25. 书正
    @3 years ago
    2448812

    机器人能否感知痛苦或者有无意识先不论,搞破坏、不爱惜物品的行为本身就是可鄙的。

  26. MiceRice
    @3 years ago
    2448809

    这个标题定义的就有问题,如果是“虐待”,那么任何自发的虐待行为都是不正确的,无论你虐待的对象是什么(比如花花草草到猫猫狗狗),我觉得都映射出不同程度心理疾病。

    另一个定义是“杀害”,首先是定义什么为“杀害”,对非智慧体(而不是生命体)的行为定义为“破坏”似乎更合适。那么我觉得无理由的“杀害”行为,也是有不同程度的心理疾病。

    最后一个问题是所探讨的“受迫”“形式所逼”之类的问题,那道德帝还经常探讨:“如果你只能靠着杀掉某个婴儿来拯救另外10个大人,你怎么办?”这种神奇的反人类问题呢。我觉得完全就不是一个命题了,交通法规还说:“紧急情况下要选择总体危害性最小的”,从撞车还是撞人还是自己撞柱子这么不到1~2秒的时间,还要选择啥“总体危害性最小的”,基本就是下意识操作。

  27. OM雷帝嘎嘎
    @3 years ago
    2448797

    @sim: 你在做死,买买提们一定都期待特警都是像你一样2X,按照你的理论,地球上就不可能出现军队和警察了。困境你妹!

    和上面无关,另一个疑问:为什么要给机器人设定“痛觉”这么复杂而无用的功能呢?说多一点,正因为在某些游戏里设定了可以被强暴,才会出现这样的玩家行为不是么? 规则允许的情况下,就别再争议道德了,先问问最开始 ——————为什么这么设计吧?

  28. 2448778

    看看圣经里上帝怎么对待人类的就知道人类以后会怎么对待机器人了。

  29. 呵呵
    @3 years ago
    2448712

    我觉得jonny像机器人回复

    [12] XX [1] 回复 [0]
  30. 2448660

    @sim: 大型犬 被一个小孩激怒?小孩有你了解你的宠物吗?作为主人,在激怒的动作发生前,你为什么不事先劝阻? 同样,大型犬被小孩激怒,这样的犬,危险的物种,你随随便便就出来溜街?明知它的危险,你还可能离开放任不管?甚至你可能还不了解自己的宠物?请问,是小孩问题吗?是宠物狗问题吗?都不是,是你玩忽职守,粗心大意,却要用狗的性命来为你赎罪?你也好意思说感情?不天大的笑话
    所以 所谓的道德难题 不过是你瞎编乱造毫无水平毫无逻辑的笑话罢了

    [6] XX [11] 回复 [0]
  31. 2448654

    @sim: 你又怎么确定那是包着炸弹的机器人 有什么能力证明 如有科技实力证明 怎么会还用追着用斧头砍?拿自己开玩笑? 如果拿斧头追着跑的人都能肉眼分辨 那围观群众会分辨不出?如果你事先已经知道 那么 你为什么会纵容他跑入人群 是拿人群大批人的生命开玩笑?逻辑硬伤 弱智问题

[2] 1 »

发表评论


24H最赞