“黑箱”算法如何带来薪资歧视

加州大学欧文分校法学教授维娜·杜巴尔（Veena Dubal）去年在一篇学术论文中描述的算法薪资歧视，涉及“使用细粒度数据来产生不可预测的、可变的和个性化的小时工资”。当这些算法不被公开时，它们被称为“黑箱”算法，因为它们无法被直接审查。

根据自由职业服务公司Upwork的数据，有数百万工人是作为独立承包商进行自由职业工作的，2023年有6400万人，占美国劳动力的38%。麦肯锡在2022年发现，36%的受访者认为自己是自由职业者，这粗略估计有5800万人。

其中一些人通过所谓的零工平台提供服务。在许多情况下，他们对自己与平台及其服务的互动如何影响他们的工资知之甚少。

一个例子是Shipt，这是一项由零售商塔吉特（Target）在2017年收购的送货服务。宾夕法尼亚州立大学信息科学与技术学院以人为中心的AI助理教授达娜·卡拉奇（Dana Calacci）回忆说，该送货服务于2020年引入了一种算法支付系统，导致工人对自己的工资感到不确定。

“公司声称这种新方法对工人更公平，并且更好地将工资与订单所需的劳动相匹配，”卡拉奇解释道。“然而，许多工人发现他们的工资减少了。由于Shipt没有发布关于算法的详细信息，它实际上是一个工人看不见的黑箱。”

难以理解的算法也可能对补偿产生间接影响，不仅仅是对零工人群如此。

劳工倡导组织Coworker.org的政策和研究主任威尔尼达·内格龙（Wilneida Negrón）表示，识别算法薪资歧视需要广泛的调查和与工人的对话。“但据所有报道，这是一种普遍的做法，过去几年我们一直在就此问题向一些机构提供建议，”内格龙表示，她预计政府机构将在未来几个月采取行动。“这是一个超出零工工作的普遍问题，涉及其他行业，如家庭保健、零售/制造、运输和物流。”

关于零工工作，内格龙表示，自2019年以来，在Instacart和Uber为Postmates做配送服务的人们一直在表达担忧。她说，使用食品配送应用GoPuff和Favor（一款德州的送货应用）以及宠物照看应用Rover的工人也提出了投诉。

“我们与Honor、Visiting Angels和Amedisys的家庭保健工人进行了对话，新的算法支付系统加剧了按访问次数支付这一已经存在的问题，”内格龙补充道。

从事运输和物流公司的工人也存在类似的担忧。

“FedEx和UPS将AI驱动算法整合到员工的日常操作中，这影响了他们的工资，”内格龙说。“新的UPS合同不仅增加了工资，还让工作人员在引入新技术及其影响方面有更大的发言权。”

内格龙表示，在银行和金融行业，情况略有不同，员工反对使用算法绩效和生产力衡量标准，这些标准间接影响薪酬和晋升。“我们从富国银行和汇丰银行的员工那里听到了这一点，”内格龙说。“所以，这里有两种动态：算法系统直接和间接影响工资的问题也正在慢慢影响白领行业。”

内格龙表示，这些系统使现有的工资和劳工问题变得更糟，并希望通过最低工资保障或在这些算法实践普遍存在的行业中建立公平工资标准来解决这一问题。

“这就是你在一些像纽约这样的城市看到的对零工人群的做法，尽管在工资被削减或削减转嫁给消费者方面遇到了一些问题，但现在说它是否有影响还为时过早，”内格龙说。

“我们还希望看到雇主必须遵守某种程度的算法透明度和定期报告标准，要求公司定期报告工资数据，显示工人之间工资的分配，以识别和解决算法决策导致的差异。”

寻找立法来解决这个问题有些讽刺，因为像加州的第22号提案这样的州法律使情况变得更糟。第22号提案于2020年获得选民通过，为共享乘车和送货公司创建了一个特定的劳动法豁免，允许他们将工人分类为独立承包商而不是雇员。杜巴尔在她2023年的论文中断言，第22号提案“使算法薪资歧视的做法合法化……”

当前的美国政府已表示愿意反对行业将零工工人视为独立承包商，但情况还远未完美。

*

为了更好地理解算法透明度或其缺乏如何影响工人，The Register与东北大学计算机科学助理教授兼东北大学公民AI研究实验室主任赛普·萨维奇（Saiph Savage）进行了交谈。

萨维奇：问题在于，当前大多数零工市场都是黑箱。所以他们不提供有关其平台上存在的算法类型的反馈。这意味着平台可以潜在地操纵工人。

例如，一个平台可能会告诉工人，“嘿，你知道吗？我们的算法检测到如果你继续工作两个小时，你的工资将增加60%。”于是工人可能会继续工作这两个小时，但他们可能实际上并没有增加60%的工资。问题在于平台可能不会告诉他们这种情况发生的可能性，因为没有透明度。

这使得平台更容易操纵工人，就像用一根胡萝卜引导他们前进一样。

或者工人在平台上可能会遇到问题。假设他们在UpWork或Toloka这种平台上不断遇到骗子，由于缺乏透明度，他们没有数据来判断他们遇到的问题是一次性的还是系统性的问题。工资也是如此，因为工人对其他人的工资没有透明度。例如，是平台上的每个人都挣得比最低工资少吗？还是因为我是新手而没有拿到高工资？

透明度的缺乏使得平台能够操纵工人，而且也使得工人难以知道他们何时面对系统性问题。

The Register：早在2020年，这已经在像塔吉特的零工送货子公司Shipt这样的平台上有了记录。在其他将工人视为独立承包商的平台上，这仍然是个问题吗？

萨维奇：是的。《Uberland》这本书很好地记录了这一点。作者讨论了Uber试图让司机整夜继续工作的情况，并向他们发送消息，比如“哦，是的，继续Uber工作。如果你继续工作，你的工资将增加60%。”这本书记录的问题是，工人没有关于这种情况实际发生的可能性的数据。由于他们没有数据，很容易被操纵。

The Register：为什么会发生这种情况？为什么劳动法未能解决这个问题？

萨维奇：我认为这些平台利用黑箱这一事实来防止监管。如果政策制定者不能量化问题，他们如何制定良好的法规？

我的实验室一直专注于制作工具，让工人能够收集他们自己的工作场所数据并团结起来，以便我们可以告知政策制定者这些平台内发生的事情。例如，我们能够测量亚马逊Mechanical Turk上的小时工资。从那里我们显示出大多数工人，比例很高的工人，收入低于美国最低工资。

从那里我们与美国参议员建立了联系，他们向这些大科技平台发送信函，质疑这些数字工人所获得的工资类型。所以我认为前进的一步是促进透明度。

The Register：是否有可信的立法努力来解决这个问题？

萨维奇：马萨诸塞州参议员马克伊（D-MA）去年质询了这些大科技平台，正是关于他们支付给这些零工工人的工资。此外，在马萨诸塞州，围绕零工工人分类也有很多行动。我认为我们需要告知政策制定者正在发生的事情，以便他们能够更好地进行监管。

还需要认识到这是一种新型的数字劳动，由于一切都由算法自动化，出现了新的动态。因此，我们仍需努力教育政策制定者关于正在发生的事情。

The Register：是否有任何零工工作平台采取措施来防止数据收集？Meta就遇到了这个问题，它使得研究虚假信息的研究人员更难研究广告平台和内容审核。

萨维奇：我们已经创建了我们自己的独立工具，所以如果平台不提供数据，我们就自己收集数据。

现在我们一直在与律师合作，推动法规，使工人始终能够收集有关其工作场所的数据，因为你是对的——零工平台可能会使工人收集其工作场所数据违反服务条款。

The Register：目前是否有最糟糕的肇事者？

萨维奇：所有的零工平台都使工人处境困难，因为传统上由企业支付的成本现在被强加给工人。

透明度的缺乏使得很难检测到情况有多糟。零工工人被迫做很多无形的无偿劳动。因为我们没有关于此的数据显示，难以理解情况有多糟。