无厘头研究
面部识别中的肤色偏见
AI驱动的面部识别系统无处不在。它用于解锁我们的手机，允许我们进入办公楼，并在机场对我们进行安全筛查。在我们最大的城市里，安全摄像头可以追踪我们在几个街区内的每一步。百货商店会用摄像头监视我们，以确保我们不会偷走商品。
面部识别也用于我们的安全：医院和养老院依赖面部识别来确保对可能患有痴呆症、受伤或处于困境的患者进行正确识别。它用于监测生命体征，提供关键的面部颜色和温度数据。它还有助于确保药物被正确分发给相应的个体。
随着面部识别提供的增强安全性，人们对伦理和隐私问题也产生了关注。美国公民自由联盟和电子前沿基金会对由监控带来的潜在伦理违规问题表达了坚决的担忧。
另一个问题是偏见。在2018年发布的一项具有里程碑意义的研究中，发现了三个主要的性别和种族分类系统存在显著的偏见。
计算机科学家Joy Buolamwini发现，较浅肤色男性的识别错误率从未超过1％，而较深肤色的人的错误率高达20％。进一步分析统计数据，发现较深肤色的女性的识别率比较浅肤色男性低34％。
这种偏见可能对执法、医疗保健和自动驾驶等项目产生严重影响，仅举几例。
在这种背景下，索尼的研究人员准备了一份报告，将在计算机视觉国际会议上交付，该会议定于10月初在巴黎举行。他们提出了一个新的肤色分类系统，改进了几十年来一直使用的费茨帕特里克肤色标准。
在索尼的博客中，AI伦理研究科学家William Thong写道：“费茨帕特里克肤色标准是一个有价值但粗糙的工具，提供了从浅到深的肤色单一视角。然而，当我们深入研究人类肤色及其在AI模型中的表现时，我们意识到这种单一视角可能无法捕捉到肤色复杂性的全部范围。”
Thong表示，肤色除了明暗之外还有其他变化。他指出，例如，亚洲人的皮肤在年龄增长时会变得更黄，而白人的皮肤会变得更红，变得更暗。
为了解决这些特征，Thong的团队开发了一个包含色调元素的多维肤色分类系统。作者们表示，在旨在解决图像数据库中的偏见的过程中，他们从两个方面特别受到启发：一次摄影展和化妆品行业。
在2016年的一次TED演讲中，艺术家Angelica Dass展示了一张显示世界各地广泛肤色范围的海报。它们与照片中的彩通色进行了匹配。“其中一件特别引起我的共鸣的事情是，Dass提到‘没有人是黑色的’和‘绝对没有人是白色的’，非常不同的种族背景有时会得到完全相同的彩通色，”Thong说。
另一个灵感来自化妆品行业。唐表示，多年来，该行业一直在努力纠正其未能提供代表人类肤色多样性的化妆品颜色的问题。缺乏完整的色彩范围“是有问题的，因为它抹去了对东亚人、南亚人、西班牙裔、中东人和其他可能不完全符合浅到深光谱的人的偏见，”Thong说，并补充说AI研究人员可能没有意识到这种偏见，因为“很少有人有挑选化妆品或与自己的肤色匹配粉底色调的经验”。
这项名为“超越肤色：一种多维度的表观肤色测量”的研究论文已在预印本服务器arXiv上发表。
本文译自 techxplore，由 BALI 编辑发布。