快递员控诉Uber的人脸识别技术,内置的种族偏见让他们面临工作危机
来源:Wired
编译:周熙
为Uber Eats和Uber工作的BAME(非白人种:黑人,亚裔和少数族裔)快递员声称,该公司有缺陷的识别技术让他们失去了生计。
Uber Eats的快递员表示,他们被解雇了,因为该公司的 "种族歧视 "面部识别软件无法识别他们的脸。Uber将该系统描述为 "照片比对 "工具,提示快递员和司机拍摄一张自己的照片,并与公司数据库中的照片进行比对。
1快递4名Uber Eats快递员与WIRED分享了证据,显示了该技术无法识别他们的脸。在他们所拍的自拍未能通过公司的 "实时身份检查 "后,他们受到了被解雇的威胁,账户被冻结或被永久解雇。另一位因自拍功能无法工作而被解雇。工会称,这个问题已经影响到全国各地无数的Uber Eats快递员以及私人雇佣司机。
进行了数千次配送并拥有100%满意率的派送员说,他们突然被从平台上删除,他们声称这个过程员控是自动的,没有任何上诉的权利。在给公司的留言中,许多人恳求要回自己的工作。他们每个人都收到了同样的回复,称他们的解聘是 "永久的、最终的",Uber希望他们能 "理解这个决定的原因"。
William平均每天工作16个小时,每周六到七天为Sheffield(谢菲尔德)的Uber Eats送餐,直到2020年10月他在自拍检查后被阻止访问他的账户。他说:"我整天都在尝试给他们发信息,但他们每诉U次都只是给我同样的复制答案。"
他说:"我只从Uber Eats赚钱。我用这些钱来支付我的账单,我的房租,我的汽车保险,我的食物,我的手机,一切的一切。"。他说他被迫借了1000英镑来支付当月的账单。在他联系了英国独立工人工会(IWGB),随后该工会给Uber发信威胁要公开其行为后,该公司才肯撤回其软件的裁决。
Uber表示,快递员在提交实时自拍时,可以在人工智能和人工验证之间进行选择be,但快递员表示,如果他们选择后者,没有人可以推翻软件可能犯下的错误。David登录该应用时,为了准备面试刮了胡子。当他提交自拍时,应用程序表示照片不是他的,并要求大卫在24小时内提供替代他的快递员的信息,否则有可能被解雇。
David说:"我试着通过官方路线,但它显示的都是提供替补人员的信息选项。没有办法告知他们有问题。"虽然记者给Uber的新闻团队打了一个电话,阻止了他的账户被永久r的关闭,但很多人就没有那么幸运了。
William和David和其他受影响的快递员一样,被指控将他们的班次非法转包给他人。虽然他们作为独立承包商的身份允许Uber Eats快递员转包工作,但有人担心将工作交给那些没有经过背景调查或不能合法工作的人。为了阻止这种情况的发生,去年4月,Uber在人们打开应用时增加了一个信息验证步骤。快递员和司机需要自拍一张照片,以证明他们是当前登录的人脸用户。
当快递员提交自己的脸部照片时,Uber会使用微软的人脸匹配软件来验证他们的身份。但是这类软件在识别皮肤较黑的人时有失败的记录。2018年,Uber使用的类似版本的软件被发现,对于皮肤较深的女性面孔,失败率为20.8%。对于深色皮肤的男性面孔,Uber Eats的绝大多数司机都是男性,而且很多都是来自BAME,占比达6%。对于白人男性来说,这个数字是0%。
一项对189种不同的识别面部识别系统的研究发现,所有这些系统在识别非白人面孔时的表现都明显差了很多,有时差了十倍甚至一百倍。还有就是,在实验室里能用的东西,在现实世界中并不总能表现如期。Uber司机拍摄的自拍会是质量较低的图像,使用较旧的手机,通常是在光线不好的地方,这些条件与这些程序所训练的专业工作室图像相差万里。
"没有一种面部识别软件能在不同种族间表现相同。这种技术并不存在。" Universit技术y of Essex专门研究面部识别软件的社会学家Peter Fussey教授解释道。"如果你把这种技术引入到一个已经不平等的环境中,只会加剧这种情况,放大种族不平等。"
Uber的一位发言人强调,公司需要验证检查以防止 "潜在的欺诈行为"。该发言人称,任何将合作伙伴从平台上删除的决定 "总是涉及人工审查","任何被删除的人都可以联系我们,对该决定提出上诉"。该发言人没有评论Uber是否曾经做,内过任何审计,研究其验证系统的准确性。微软没有回应关于其技术失败率做出评论的请求。
IWGB(大不列颠独立工作者联合会)的主席Alex Marshall说:"这是这些工人最担心的上班问题,而且我们肯定会看到更多数量的BAME社区受到影响。这绝对是间接的种族主义。" 他说,司机们正在转向食物银行和收容所,因为他们在失去应用上的工作权后,无力支付房租和账单。他说,一名司机甚至不得不 "在墓地置的搭帐篷"。
IWGB表示,由于gig economy(零工经济:市场特点是短期合同或自由职业者占主导地位,而不是长期工作)中的从业快递员缺乏不被解雇的法律框架,法院很难立案,但它正在争取在个案基础上扭转解雇,并推动向议会提交Early Day Motion(早日动议:在英国议会提前结束工作的某天正式提出供今后讨论的议会动议。其主要目的是提请议会注意某一特定议题)。
Uber已经因为使用面部识种族别技术而被起诉。2019年,美国一名黑人司机发起索赔,称在 "漆黑 "的环境下,自拍软件无法识别他,而被解雇,这迫使他手动提高他所有照片的亮度。
WIRED采访的所有Uber Eats司机都表示,他们和他们认识的人都没有找人代过班,而且他们的收入太少,这样做没有意义。"我们大多数因代班而被解雇的成员每周工作60小时,但仍然入不敷出," Marshall说。"他们何德何能会把自己的账户借给偏见别人?"
非法转包作为此类问题的一个结症是因为趋严的法规。作为恢复优步(Uber)在伦敦运营的私家出租车牌照的交易的一部分,伦敦交通局(TfL)向该公司施加压力,要求其打击非法转包,以保护人们免受无证驾驶员的伤害。
Uber的面部识别系统不仅适用于Uber的工人,也适用于子公司Uber Eats。TfL的发言人强调,2018年底至2019年初,伦敦有43名未经授权的Uber司机进让他行了1.4万次出行,同时强调其对欺诈行为的担忧得到了首席治安官的支持。该决定的批评者指出,这43名司机占当时在伦敦运营的4.5万名持证Uber司机的一小部分。
Uber并不是唯一一家向这一领域扩张的公司。去年12月,同为打车公司的Bolt在新一轮融资中筹集了1.5亿欧元,以实现类似Uber使用的人工智能和司机面部识别检查。
相关报道:https://www.wired.co.uk们面/article/uber-eats-couriers-facial-recognition
【本文是51CTO专栏机构大数据文摘的原创译文,微信公众号“大数据文摘( id: BigDataDigest)”】
-
使用SUSE Rancher 2.6对 Aks 和 Gke 集群,进行全生命周期的管理Kimi Agent会员惊喜上线!打赏秒变9个月VIP,49元享超值AI深度研究Claude Code重大更新!新增编程导师模式,初学者也能享受一对一代码指导如何从Docker镜像中提取Dockerfile?IBM开源了5亿行代码数据集,里面最多的编程语言却不是Python成本激增 今年亚马逊Prime Day促销可能有点“抠”联想发布百应智能体2.0!国内首个L3级AI服务正式登陆,中小企业数字化转型迎来超级助手IDC 2024年中国超融合存储系统市场:深信服第一标签: 联想控股 李蓬 于浩标签: 京东物流
- ·数据中心冷却的人工智能:不只是白日梦
- ·Twitter Spaces社交语音聊天功能抢先Clubhouse登陆安卓平台
- ·戴尔第一季度营收245亿美元 净利润同比增长520%
- ·腾讯汤道生:立足“以人为本”,构建“好用的AI”
- ·亚马逊云科技季度营收增速创3年来最高,CEO安迪•贾西:非常满意
- ·不止文本!研究人员发现AI系统新漏洞,图像重采样竟成攻击入口
- ·揭开AI部署神秘面纱:在云端和边缘
- ·AI工程师成长记 - 工作方法!
- ·标签: CNN 特德·特纳 特朗普 马克·汤普森
- ·标签: 虎牙 财报 直播收入 游戏服务
- ·标签: 罗博特科 光伏 清洁能源 半导体
- ·标签: 三星 Galaxy S26 DRAM DS部门
- ·Anthropic发布Project Deal:Claude完成186笔自主交易,交易额超4000美元
- ·如何确保有状态 Kubernetes 的稳定性
- ·标签: 苹果 iPhone 华为 海信空调
- ·京东全球科技探索者大会聚焦“Enjoy AI”:CEO 许冉现场演示数字人助手点外卖
- ·标签: 阿里巴巴 蔡崇信 马云 首席财务官
- ·印度顶尖 IT 公司稳住员工队伍,推动 AI 技能再培训
- ·标签: QuestMobile 微信小程序 红果免费短剧 同程旅行
- ·閫熷害鏈€蹇� 250fps锛佸疄鏃躲€侀珮鎬ц兘杞﹂亾绾挎�娴嬬畻娉� LaneATT
- ·标签: 格灵深瞳 国科亿道 财报
- ·云计算企业崛起 甲骨文数据库市场主导地位动摇
- ·哈佛法学生创办MarqVision获4800万美元融资 借助AI打击品牌侵权
- ·苹果发布iPhone 17系列新品,AI功能缺失引发行业关注
- ·云计算核心技术Docker教程:以集群模式使用Docker
- ·标签: 沐曦股份 GPU产品 业绩快报 集成电路
