走进科学
用人脸识别软件来判断罪犯，是不是太不靠谱了？
[-]
你的脸会告诉别人什么信息呢？人脸识别技术可以识别出你的年龄、性别以及情绪。现在，有两名科学家称你的脸甚至还可以告诉人们你有没有犯罪。他们声称已经开发出一种系统，这种系统可以从几千张从未见过的人脸中识别出谁是罪犯。
但另一些研究人员对该系统的功能进行了批判，他们认为这可能会使人脸识别技术在应用过程中产生道德问题。
研究的参与者，来自加拿大哈密尔顿麦克马斯特大学的Xiaolin Wu说道，这个问题过于主观了，他和他的同事，来自中国上海交通大学的Xi Zhang已经准备开始反驳那些反对者的观点。Wu说：“我们对这个结果感到很吃惊。”
研究人员充分开发机器的学习能力，要求面部识别软件判断身份信息系统中的照片的主人是否是罪犯，最后得到一个正确的反馈。机器在这个过程中将学会如何分辨，要求最终结果的准确率到达90%。
然而其他的面部识别专家对他们的开发方法提出了质疑。其中有一个问题：罪犯的图像来自于中国身份证照片的数据库，而无犯罪人员的照片则来自于中国公民在网络上发布的照片，这就意味着这套系统识别的是照片的不同来源而不是人脸。
Wu和Zhang试图将照片标准化，例如调整它们的大小和亮度。但来自麻省理工学院的Jonathan Frankle认为这还不够，他说：“图片来源不同是这套系统的根本缺陷。”
来自谷歌的研究人员Francois Chollet称，这个问题不足以引起争议，但整个程序需要好好的开发。他说：“这不是道德问题影响技术的辩题。”
来自英国法尔茅斯大学的Mike Cook说，这种研究似乎让机器学习变成“21世纪骨相学”——通过人的头骨推断出一个人的特征。看似公正的计算机程序给出了不准确或者有争议的结果。
相同的偏差
事实上，这些系统都不客观，往往和人类一样带有偏见。Cook说：“它们是用我们相信的结果而制造出来的工具。”
这并不是说电脑无法准确完成人脸识别，它们有时完成的比人类还出色。人脸识别软件已经可以轻松的识别出人鼻子的形状并且判断出他是否在笑。来自纽约罗切斯特大学的研究人员称，他们已经开发出一种算法能够识别出中国人脸、韩国人脸和日本人脸，准确率达到75%。
听起来似乎挺科学，但应用在实际情况中时常常会出现道德问题。识别出人的种族，这虽然可以有其他更好的用处，但可能被用来进行人种歧视。
去年微软开发了一款软件，通过照片来判断人的年龄。他们本来的目的是想开发出一款有趣的应用，但之后一些英国报纸试图用这款软件将本该给予儿童的优惠给了成年人，这迫使微软不得不做出解释：这款软件无法对年龄做出准确的评估。
在遇到比鼻子形状和年龄更加复杂和抽象的问题时，了解技术的极限便成了十分重要的事。来自普林斯顿大学的Alexander Todorov说，你无法从一个人的照片中了解他的个性和行为习惯，但却超级容易看出一个人因为缺乏睡眠苍白的脸色和下垂的眼袋，他说这可以用来防止人们在从事一些需要注意力高度集中的任务例如操作危险的机器，但用它来推测人的外貌和个性，这是错误的。
研究人员常常无法控制他们的研究成果如何被人们使用。像Wu和Zhang一样将自己的成果公开后这就意味着任何人都可以检测它的正确性。Frankle说：“让我感到更可怕的事情是，如果一家私人公司开发出了这样一套系统，并将它卖给了警察局，那么谁也不知道将会发生什么。”
今年早些时候，Frankle和他的同事发现，美国警察部门使用的面部识别软件的准确率还算高。但随着随着该技术的使用范围更加广泛，权衡其是否符合道德规范就更加紧迫了。
Chollet说，计算机科学在人们的生活在扮演着越来越重要的角色，但却没有相应的道德标准来规范它，这是我们必须要解决的事。
本文译自 newscientist，由 island 编辑发布。