@ 2016.09.09 , 17:00

全球首届AI选美大赛,白人成最大赢家

[-]

最近著名的「青春实验室」发起了一场叫做Beauty.ai的网络选美大赛,号称裁判都是人工智能,比赛吸引了60万参赛者。AI会通过算法观察皱纹、脸部对称性、痘痘数量、种族和感知年龄。不过,种族似乎成为了最大的决定因素,44位获胜者中,36人都是白人。

[-]
[-]

当裁判的是一种深度神经网络,一种可以从巨量数据中自动学习的人工智能。比方说,在比赛中,算法会被展示数百万张有皱纹或者没皱纹的人的照片。它会慢慢学习不同脸部皱纹的相似之处,并且在新照片中识别它们。但是如果算法主要看的是白人照片,遇到黑人脸时,其准确性就会下降。(其他面部特征也一样,是用另外一套算法识别的。)

两组获胜者,根据年龄和性别划分,大家随意感受下画风:
[-]
[-]

虽然75%的参赛者都是白人和欧洲人后裔,但是从理论上说这并不会造成什么问题。因为对机器而言,他们并不是人类,而是一堆像素的集合而已。当像素没有不符合预期模式,它们就被认为是输入错误或者被算法误判。换句话说,照片里的人美不美是通过一个客观标准判断的,但是这个客观标准来自于白人照片的集合。

“看起来颜色确实会影响机器的判断,”Beauty.ai的首席科技官Alex Zhavoronkov说。“对于一些人群而言,数据集缺少足够的样本训练深度神经网络。”

解决之道就是更好的数据,如果算法看过了更多样化的人群,它们就能更好识别他们。

同样的问题也发生在谷歌的DeepDream实验中。谷歌的研究者给算法编程,让它们处理建筑、风景和名画的图片,并总结出一个模式。结果却是一片不规则的碎片,夹杂着狗脸。原来算法是通过开源数据库ImageNe训练的,里面有着大量狗的照片,所以AI就很容易在一堆图片中一眼看到狗。

这一问题困扰过谷歌和惠普,并且仍将困扰各种各样的AI。

“如果一个系统所接受的照片训练里,绝大部分都是白人,它就会难以辨别非白人的脸,”微软研究院首席研究员Kate Crawford说。“所以,包容性很重要,从设计者到公司所有者,再到各种伦理视角。否则,我们造出来的AI只会折射出一个狭隘的社会,带有各种陈旧偏见和刻板影响。”

Beauty.ai会在10月份再举行一场AI选美大赛,虽然Zhavoronkov说公众这次会看到更好的数据,但是我们仍不清楚下次大赛是否会使用更好的数据集。

本文译自 quartz,由译者 许叔 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力 !
支付宝打赏 [x]
您的大名: 打赏金额:

2.7
赞一个 (10)

24H最赞