@ 2022.12.08 , 14:05

印度司机很难过:Uber的面部识别识别不了他们

Uber的面部识别正在锁定印度司机,一些人被永久封号

印度司机很难过:Uber的面部识别识别不了他们

印度的Uber司机表示,他们用来访问其应用程序的面部识别问题正在使他们失去工作。在《麻省理工科技评论》(technologyreview.com)对该国150名Uber司机进行的调查中,近一半的人表示,由于他们的自拍出现问题,他们的账户已被暂时或永久锁定。许多人怀疑自己的外观发生了变化,例如面部毛发、剃光头或理发,是造成这种情况的原因。另有四分之一的人认为这是由于光线不足的原因。

印度大约有60万名Uber司机,但其他许多司机为本土的共享出行平台Ola和Swiggy、Zomato和Urban Company等初创公司工作。所有这些平台都要求工作人员上传自拍照用于登录或验证。Uber通过名为“实时ID检查”的程序检查司机的脸部与公司档案中的信息是否匹配。该项目于2016年在美国推出,2017年在印度推出,然后在其他市场推出。Uber首席安全官Joe Sullivan在2017年的一份声明中表示:“这样可以防止欺诈,并保护司机的账户不被篡改。它还可以通过向应用程序添加另一个层面的问责制来保护乘客,确保车上的人是正确的人。”

但该公司的司机验证程序远非天衣无缝。孟买的一名Uber司机Adnan Taqi遇到了麻烦,当时该应用提示他在黄昏时分拍了一张自拍。他被锁在外面48小时,这对他的工作计划造成了很大的影响——为了能够谋生,他连续开车18小时,有时多达24小时。几天后,他拍了一张自拍,又把他的账户锁住了,这次是整整一个星期。Taqi怀疑,那一次是因为头发。他说:“我已经几天没有刮胡子了,我的头发也长出了一些。”

其他人表示,他们一直在努力解决相机和低成本智能手机上的划痕问题。这个问题并非优步独有。软银支持的Ola的司机也面临类似问题。Uber最初没有回应《麻省理工技术评论》关于其技术和司机体验的一系列问题。发布后,该公司表示,不能仅基于人脸识别进行停用。它表示,实时ID检查通过将标记的不匹配升级到至少两个人,然后由他们手动检查照片来实现。此过程不到25秒。Uber表示它的工具可以处理发型的变化。

尽管如此,超过十几名接受本文采访的司机都详细说明了为了避免被锁定Uber账户,必须找到更好的照明的情况。"每当Uber在晚上或晚上要求自拍时,我都不得不靠边停车,然后走到路灯下拍一张清晰的照片——否则就有可能被拒绝,"来自海德拉巴的Uber司机Santosh Kumar说。

实时ID检查是通过将你的脸转换成一组点来实现的,独立技术顾问Jernej Kavka,解释了他拥有Microsoft的Face API,它是Uber用来推动实时ID检查的。“如果长过多的胡子,那么这些点就会变化,可能无法识别下巴在哪里”,Kavka说。当光线不足或手机的摄像头对比度不佳时,同样的情况也会发生。他解释说:“这使得计算机很难检测边缘。”

在印度,这个软件可能特别脆弱。2021年12月,技术政策研究员Smriti Parsheera(CyberBRICS项目的研究员)和Gaurav Jain(国际金融公司的经济学家)发布了一篇预印论文,对四种商业人脸处理工具——亚马逊的Rekognition,Microsoft Azure的Face,Face++和FaceX——在印度人脸上的表现进行了审核。当软件应用于32184名选举候选人的数据库时,Microsoft的Face甚至未能检测到1000多个图像中存在人脸,报出错误率超过3%——四个中最差的。

印度司机很难过:Uber的面部识别识别不了他们
Adnan Taqi在车里的驾驶座上举起了他的手机。他怀疑光线和面部毛发的变化导致他失去了对应用程序的访问权。

Parsheera表示,Uber应用程序可能因其软件未在印度各种人脸上进行训练而导致司机失败。但她表示,也可能存在其他问题。“可能还有其他因素,如照明、角度、衰老等”,她解释说。“但缺乏围绕使用此类系统的透明度使得很难提供更具体的解释。”

Uber表示,它定期进行公平测试(内部和与Microsoft的合作),以了解这款产品对具有不同肤色的用户的表现,并确定提高效率和准确性的任何机会。Microsoft拒绝对《麻省理工科技评论》提出的问题置评。

问题并不仅限于算法的决策。司机们表示,Uber遵循的投诉处理机制是乏味的、耗时的、令人沮丧的,而且大多数情况下都无济于事。他们说,有时他们会花费数周的时间试图解决问题。“我们必须不停地打他们的帮助热线,才能解锁我们的账户,不停地告诉我们服务器正在关闭”,Taqi带着沮丧的语气说道。“就像他们的服务器总在关闭一样。”

Uber表示,它给了司机一个封号上诉的机会

如果问题持续存在,保护措施仍然有限,那么它们可能会产生巨大的影响,而不仅仅是对工作。印度人类住区研究所的高级研究员Aditi Surie表示:“印度的劳动力平台正开始成为工人、市场和政府之间的一个关键接口,他们为汽车提供贷款,甚至为更大的家庭开支提供信贷。”。在这样一个国家,这样的工作可能会让一个人从不稳定状态一跃成为中产阶级(尤其是当估计表明,全球在疫情期间陷入贫困的大多数人生活在印度时),被平台阻挡或踢出平台可能会产生毁灭性后果。

在其他市场,临时工已经对面部识别进行了反击。例如,在英国,去年至少有35名Uber司机声称他们的账户被错误地终止了。英国独立工人联盟指责了这种“种族主义算法”。由于该软件,Uber在英国至少面临两起诉讼。Uber表示,在英国和欧盟,司机可以选择他们的自拍是由验证技术检查还是由人类审查员检查。一些国家和地区已经采取行动,为临时工提供更好的保护。欧盟去年提出了一项指令,以改善工作条件并提供算法透明度。而在2021年9月,加州法院驳回了第22号提案,该提案是一项将临时工排除在州法律规定的雇员福利之外的投票倡议。伦敦大学学院的律师和博士生Divij Joshi说,这些法规承认算法系统可以“对工作者的权利产生负面影响”。但印度目前对临时工的法律保护很少,乔希说:“印度没有从政策或监管的角度来看待这些同样的透明度努力。”

普林斯顿大学的组织社会学家Elizabeth Anne Watkins广泛研究了美国Uber司机的面部识别的影响,她发现这种模式很熟悉。Watkins现在是英特尔实验室的研究科学家,他在2020年的一篇论文中写道:“该系统在可变条件下容易发生故障,给工作者带来了沉重的负担,当面部识别失败时,他们几乎得不到组织支持。此外,身份验证的责任被转移到工作者身上,他们承担着系统失败的后果。”

研究工作者如何理解算法系统的Samantha Dalal说,关于人工智能如何做出决定,可以有更多透明度。科罗拉多大学博尔德分校的博士生Dalal说:“包括一些超越'你被封号了'的解释会有帮助。这种能力是存在的。”

Dalal说,由于缺乏对这位反复无常的非人类老板想要什么的洞察,临时工在与应用程序互动时尝试了很多试错。Uber在一封电子邮件中表示,在账户停用之前,它会发出多次明确警告。

本文译自 technologyreview,由 八里 编辑发布。


支付宝打赏 [x]
您的大名: 打赏金额:

赞一个 (9)