因AI误判，美男子被错误拘捕11小时

美国一名卡车司机因AI人脸识别误判，被赌场和警方错误逮捕，事后证明清白，却仍留下犯罪记录。

一段最新公开的执法记录仪视频，记录了一个令人不安的瞬间，一名无辜男子，因为AI人脸识别系统的错误判断，被当场拘留并逮捕。

事件发生在2023年9月，美国内华达州里诺市的Peppermill Casino。当天，长途卡车司机Jason Killinger在出差途中进入赌场短暂停留，却被赌场使用的AI人脸识别系统标记为“黑名单人员”。

系统给出的结论极其笃定，与一名曾因在赌场内睡觉而被禁止入内的男子高度匹配，匹配率被标注为100%。那名被禁止的人名叫Michael Ellis。

赌场安保人员随即将Killinger扣下，坚称他就是Michael Ellis。Killinger反复解释，并出示了自己的驾驶证，证件上清楚写着Jason James Killinger，照片和本人一致。但安保人员拒绝接受这些证据，选择报警。

根据提交给内华达州联邦法院的起诉文件，Killinger一共被限制自由11小时，其中约4小时被戴上手铐，造成手腕淤青和肩部疼痛。

警方到场后，处理此案的是一名刚入职不久的警官R. Jager。Killinger向他出示了多项证据，包括驾驶证、UPS工资单和车辆登记信息，所有文件都指向同一个身份，也与本人外貌完全一致。

即便如此，Jager仍然怀疑Killinger使用了伪造证件，甚至在执法记录仪中猜测他可能在车管所内部有人，帮助他制作假身份文件。在警方报告中，Jager写道Killinger的身份信息存在冲突，且缺乏足够证据证明自己是谁。

视频显示，Jager同时查看了Killinger的证件和赌场中Michael Ellis的记录。他承认AI系统认为两人有99.9%的相似度，随后开始在警方数据库中搜索，试图证明Killinger隐瞒了真实身份。

在无法解释AI与现实证据之间的矛盾后，Jager选择将Killinger逮捕并送往拘留所。之后的指纹比对明确证明，Killinger并不是被禁止入内的那个人。甚至在结果出来之前，Jager已经对同事表示，他私下里其实相信Killinger说的是真话。

最终，Killinger在指纹核验后获释。他已经与Peppermill Casino达成和解，但针对Jager的诉讼仍在进行中。

在诉状中，Killinger指控Jager侵犯了他在美国宪法第十四修正案下的正当程序权利。他认为警方报告刻意遗漏了对他有利的证据，包括指纹结果，还错误描述他不配合调查，这种行为等同于通过隐瞒事实来制造虚假指控。

文件还指出，在确认身份后，警方将逮捕记录中的“无名氏”改成了Jason Killinger的名字，导致他被列入非法闯入的起诉名单。尽管该指控后来被撤销，但Killinger至今仍留下了一份犯罪记录。

他正在寻求补偿性、特殊性和惩罚性赔偿，具体金额尚未公布，案件预计将在明年进入庭审。

这并非孤例。近年来，AI系统在执法和安保中的误判，已经多次引发现实后果。

2025年初，巴尔的摩一所高中的一名16岁学生，因为AI枪支识别系统误把一袋Doritos零食识别为枪械，被持枪警察包围。几个月后，另一所中学因系统将学生手中的单簧管误判为武器，短暂进入封锁状态。

这些事件不断提醒人们，当算法被赋予权威，却缺乏质疑和纠错机制时，出错的不只是系统，而是整个现实世界。

本文译自 Dexerto，由 BALI 编辑发布。