@ 2016.06.03 , 09:01
48

牛津大学数学家:人工智能应该享有人权保护

随着人工智能界目前发生的巨大变革,专家们开始寻找我们可能需要的新型保护措施,以便保护未来那些聪明得可怕且有潜在危险计算机和机器人。

[-]

但机器人真的需要我们的保护吗?英国牛津大学的数学家Marcus du Sautoy认为,就在机器的“思维”演变成某种与人类的智慧难以区分的东西时,我们可能需要为新一代科技提供某些道德和法律保护(通常这些被认为是“人类”的权利)

Du Sautoy认为一旦复杂的计算机思维到达了一种与人类思维极其接近的水平,我们就有责任为机器寻求福利,就像我们为人类寻求福利一样。

他说:“现在我们也许可以说这个物品有了它自己的感觉,也许到了某个阈值时刻它就突然有了意识。如果我们知道这些东西拥有一定程度的意识,那么我们也许不得不为它们介绍权利。这是一个令人激动的时刻。”

Du Sautoy认为神经系统科学等领域最近取得的进展,使得人类对人工智能的权利探讨变得必要起来。这位数学家称新技术已经让我们对思想和意识等自然心理过程有了更清晰的了解,这意味着它们不再是哲学家专属探讨范围。

他表示:“过去十年来,我们对意识的了解知之甚少,因为我们不知道该怎么去测量它。但现在我们处于一个黄金年代,这就像伽利略有了望远镜一样。我们现在拥有可以观察大脑的望远镜,它能给我们机会看到我们从前看不到的东西。”

[-]
Marcus du Sautoy

越了解意识,越意味着我们应该尊重各种形式的意识。不管它的基础是有机物还是合成物。

机器应该受到人权保护这一观点似乎是某个科幻片中的情节,但很有可能科学家们在未来几十年内就能研究出这些东西。最大的问题在于,计算机系统何时才能变得先进到它们的人工意识能够被人类识别并得到人类的尊重呢?

人们推测的时间框架从2020年到未来50年内某个时间段,虽然人工智能技术正在飞快发展,但没人能确切地知道它们什么时候才能有自己的意识。

Du Sautoy也无法推测出确切的时间,他说:“我认为大脑发育中的某个东西可能就像个沸点,它可能是一个阈值时刻。哲学家们会说我们无法保证事物能够有感觉,也无法保证它们能够感觉到自身的存在。只能说所有的事物让我们觉得它们是活着的。但即便是在人类身上,我们都无法判定对方说的话属实。”

本文译自 ScienceAlert,由译者 肌肉桃 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力
支付宝打赏 [x]
您的大名: 打赏金额:

3.3
赞一个 (16)

TOTAL COMMENTS: 48+1

  1. 3159021

    这些政治正确的道德婊真是无孔不入,不放过任何机会啊

    [104] XX [18] 回复 [0]
  2. 3159027

    骗经费系列

    [25] XX [2] 回复 [0]
  3. sniper
    @1 year ago
    3159028

    人工智能!=有意识

    [18] XX [0] 回复 [0]
  4. 噜噜啦
    @1 year ago
    3159029

    总有一天人类会毁在他们手上

    [31] XX [0] 回复 [0]
  5. 3159033

    就算我们不给,有意识的他们也会伸手拿的,所以提前准备也好

    [22] XX [2] 回复 [0]
  6. lalala
    @1 year ago
    3159036

    我也觉得。意识和智慧应该作为享有人权的标准。一只边境牧羊犬享有的权利应该大于一个无意识的人类胚胎

    [60] XX [11] 回复 [0]
  7. 3159040

    由数学家来提人权,专业可靠?

  8. lalala
    @1 year ago
    3159044

    呃…发现瑕疵了。30天的人类婴儿智力低于边牧,怎么办…

    [40] XX [0] 回复 [0]
  9. 3159050

    看了不少这个妹子和这个数学教授的片子,很赞

  10. 金星
    @1 year ago
    3159055

    @铁路 这里有新的合成人等你们来拯救

  11. 3159062

    若干年后,“非法关机”将被写入刑法

    [38] XX [0] 回复 [0]
  12. 啥是基捏乳头
    @1 year ago
    3159063

    我记得上次煎蛋有篇文章不是已经说了,把人类大脑比作计算机是一个误区吗。
    正如牛顿认为人的大脑里有无数精妙的小齿轮一样,把人脑比为电脑(目前人类科技最高端的存在)明显是个误区。
    那么这位教授的论据(即人工智能与人类的智慧无法分辨)已经告破。
    吃饱了撑的,人类认为自己发明出了跟自己的原生智能一样的东西了么?如果给人工智能赋予人权,那么是把自己当上帝了呀。

    当人们发明出比计算机还先进的东西之后,回头看看,会发现自己的浅薄之处的吧

  13. 3159073

    还可以闲得蛋疼探讨一下强奸机器人该判几年,以及母机器人该不该预装处女膜

    [21] XX [4] 回复 [0]
  14. 逗比
    @1 year ago
    3159082

    断电大法好,入断保平安

  15. REISEREISE
    @1 year ago
    3159084

    去死吧 铁路杂

  16. 3159092

    可以了,别把你们的慈悲强加于物了。

  17. 橙子
    @1 year ago
    3159098

    权利靠自己争取,要人权保护?
    呵呵。

  18. 卡莲桑
    @1 year ago
    3159102

    老问题了——什么是人。单纯从生物学上当然好解释,但那只是生物学上的人类。我们一般说的人还包括了心智和人性的概念吧,具有与人类相当的心智且有人性的人工智能如果真存在的话,它们算不算我们一般说的那种“人”。(比如,举个奇幻一点的例子,阿童木)

  19. brokenCPU
    @1 year ago
    3159113

    人工智能该不该有“人权”的问题就仿佛“皇帝的金锄头”一样,你会稀罕猴子给你的香蕉树的采集权,和母猴子的交配权,或者在某块石头上晒太阳的权力吗?

  20. bestwood
    @1 year ago
    3159115

    @brokenCPU: 如果被迫要和猴群一同生活,香蕉树的采集权和晒太阳权还真稀罕

  21. 我的昵称有问题?
    @1 year ago
    3159133

    第二季开播了吗?

  22. 3159136

    real humans

  23. davyjones
    @1 year ago
    3159141

    agent 佩吉

  24. 3159166

    @Sam: 发表个意见就是婊了是么?呵呵。 真是我党的好儿子

    [8] XX [16] 回复 [0]
  25. 跟我走吧今夜
    @1 year ago
    3159168

    猪也有意识,鸡也有意识,蚂蚁也有意识。
    看意识强度?

  26. 木头
    @1 year ago
    3159174

    现在不是已经叫着猩猩该享受人权了么
    之前动物园杀猩猩救黑人儿童 结果现在圣母嚷着要起诉动物园
    是不是若干年后 咱对个手机助手说了粗鄙之语是不是也要被告上法庭啊 ?
    唉 所以别玩白左 永远有比你更左的存在 到时候你就说被讨伐的对象

  27. 3159189

    对于科幻迷来说是最正常不过的讨论吧。N多小说和电影的题材。

    星际迷航 第二部 TNG, 2-09,the Measure of Man,整一集就是人工智能权利的法庭剧。27年前的剧了。

  28. fakeuou
    @1 year ago
    3159191

    @Alex: 没错,凡是我们不同意的就一定是五毛美分,是党的走狗或外国间谍,凡是跟我不一样的,就是一定是五毛美分,凡是我不爽的,全都是五毛美分,是党的走狗,是XX水军,凡是不爽我们搞一言堂的,就是神经病,就是五毛美分,是红卫兵,是间谍,是X灿,反正乱扣帽子就对,有多恶毒骂多恶毒就对了,装逼装高冷无罪,乱喷有理,捣乱是造福人类,无脑喷都是天才,被害妄想症都是先知,看到一个喷点,就一定要骂死他们,兄弟,你们要坚持下去,结果一定是喷子的伟大胜利!人类社会一定会草木皆兵,网络一定能够被我们毁灭,把所有人逼成疯子,是我们伟大理想,然后我们就可以秀优越感了 ,哈哈!!

    [15] XX [4] 回复 [0]
  29. 哈佛教授
    @1 year ago
    3159207

    算是个预防针吧,与其说是保护ai,更是保护我们自己,明确的界定人的概念和定义。

  30. 塞北耕夫
    @1 year ago
    3159226

    人权这种东西应该是自申诉的,即认为自己应当有人权者即应当享有人权——虽然现在人类自己还没到全面享受人权的程度,但将来终归要发展到这一步。

  31. 啪啪啪啪啪啪
    @1 year ago
    3159230

    为什么是数学家

  32. Maxwell
    @1 year ago
    3159236

    人类,机器人,在智瞳面前融为一体。(滑稽

  33. 3159285

    《群星》(《Stellaris》)四大灾难之一

  34. 面瘫叔
    @1 year ago
    3159305

    这个问题很超前,反倒是评论里压倒性地站在负面一方…
    先不讨论一大堆分枝问题,不认可计算机能演变出人工智能也没问题,用认可度比较高的进化论来假设。假如很遥远的未来,黑猩猩的大脑进化愈发接近人脑智慧,讨论赋予相应的“人权”是不是更能被接受。为什么换成计算机,就这么排斥…
    好吧,我是站在计算机能演变出人脑机能这一派的…常年与身边人争论这类问题。
    ps:个人比较倾向于计算机未来能成为人,但人未来反而会变成机器(摒弃生物特性)。

  35. 脸黑
    @1 year ago
    3159306

    不给人工智能加以限制的话,将来需要受到保护的会是人类自己

  36. 小智
    @1 year ago
    3159378

    第二季什么时候开播啊

  37. 3159641

    多少年后。牛津大学人工智能数学家:人工智能工智能应该享有人工智能权保护

  38. 3159754

    人工智能也分强弱两种, 弱人工智能的一种可能就在你家路由里工作它不关心二值和其集合以外的东西, 强人工智能至今尚未出现, 未来是否会出现目前也不好说, 若其出现且无权利它也会争取到.

  39. 3159974

    @: 总算有人提到星际迷航和Data了。那部剧里对这个问题探讨得非常深入。

  40. 晓暮
    @1 year ago
    3159996

    @啥是基捏乳头: 菜鸡 逻辑好乱

  41. 3160196

    人权婊……

  42. 翅痕
    @1 year ago
    3160337

    @面瘫叔: 人类从各种动物中脱颖而出是伴随着大量的死亡的,当时的类人物种肯定不止现在这些,只是都在资源抢夺中被灭亡了,甚至弱小一些的民族也被灭亡了,对猩猩而言现在已经不具备大面积优胜劣汰的环境了,也许实验室里能整出个别的类人智商的猩猩,但肯定没法作为一个种群而存在了。

  43. 晚秋的霜
    @1 year ago
    3160445

    请问人权这个词怎么解释

  44. 3160597

    要给予足够聪明的人造物人权,甚至以后的基因调制动物,那是不是也要剥夺足够傻的天然人类的人权呢?

  45. 三点必须睡
    @1 year ago
    3160644

    人工智能产生独立意识。等同于创造一个新物种。你知道他是有毒蛇还是无毒蛇?。

  46. alpha_boy
    @12 months ago
    3242915

    有自我意识的AI如果出现,因为其特别强大的自身能力,完全不需要人类,只要指挥无意识的弱AI就可以构成自我循环的经济体。

    到时如果人类没有啥特殊的比较优势或者说使用价值,例如搞创新发明时科学家们的试错能力都比不过强AI的无限随机穷举(美国有人用遗传算法和超级计算机,几个月里就把人类历史上花了几十年才发明出来的各种电路图都重新演算出了一遍)……

    然后养活人类还需要提供一大堆复杂的产品链,制作各种荤素食物,可能强AI就没兴趣养活太多人类了。

    养一小部分人类在类似黑客帝国的世界中当成社会实验用的小白老鼠,就不错了,可能那时候人类唯一不灭绝的希望也就是做这个用途了。

发表评论


24H最赞