机器人
第一台「机器人杀手」来自1979年
1979年1月25日，位于密歇根的福特汽车公司铸造厂里，25岁工人Robert Williams需要爬上一个大型货架，给货架上的零件手动计数。因为工厂里五层楼高的计件机器出现了读数错误，所以Williams需要亲自去计数。
Williams爬到上面开始工作时，一只机器手臂也处于运行状态。很快，机器手来到Williams身边，撞到了他的头，他当场死亡。机器手还在继续工作，而这名工人的尸体直到30分钟之后才被发现。
在那个冬日，Williams成了历史上第一个被机器杀死的人。
这样的事件完全是机器的无心之失。当时的工厂没有相关的保护设施和警报措施。1979年的人工智能还没有发展到能够预防这种事情的程度。最后，陪审团裁定，机器在设计时没有将这种事情考虑进去，Williams的家人得到了1000万美元的赔偿金。
第二例机器杀人事件发生在两年后的日本，情况也类似：机器没有感应到37岁工人Kenji Urada的存在，无意中造成了他的死亡。
CREDIT: 锐景创意
随后，机器人专家、电脑学家和人工智能专家一直在努力解决这个问题，他们想让机器安全地与人类互动。
几十年后，人类因机器而死的报导似乎越来越常见。Uber和特斯拉的自动驾驶车辆就曾因为杀死乘客或撞到路人而上了新闻。虽然现在的安全设施越来越发达，但问题仍然存在。
虽然这些死亡事件都不是机器有意为之的，但受到《终结者》和《黑客帝国》等电影和小说的影响，人们很担心人工智能会发展出自我意志，最终伤害人类。
牛津大学科学家Shimon Whiteson将这种担忧称为“拟人化错误”，这种谬论认为“拥有与人类相似智力的系统也一定拥有类似人的欲望，比如求生欲、自由欲望和对尊严的渴望等。但这是不可能的，因为一个系统只会拥有我们所赋予的欲望。”
他认为价值观偏差才是对人类的更大威胁，即程序员所下达的命令可能与他们的真实意愿有所不同，即机器不能完全理解人类的命令。随着电脑变得越来越智能化和自动化，价值观偏差导致的结果将更为严重。
另外，他认为出于军事目的而故意设计的杀人机器才更可怕。这也是为什么全球的AI和机器人专家都呼吁禁止发展这种技术。联合国也因此将在2018年讨论是否应该对机器人杀手进行管理，以及如何管理。
本文译自 howstuffworks，由 蛋奶 编辑发布。
原作者：BRYAN YOUNG