人工智能工具已经广泛使用于零工经济，并且正在迅速进入其他领域。这对你的工作来说意味着什么？
人工智能招聘中存在种族主义、能力歧视或性别歧视的风险？
33岁的罗德里格斯（Renan Rodrigues）在瑞士快递公司Smood担任送餐司机大约一年半之后，“机器人”走马上任。根据他的描述，这个由算法驱动的应用程序，为他和他的同事安排送货和值班。
罗德里格斯告诉德国之声，从他2020 年开始在那里工作以来，Smood公司就一直在使用此类软件。 据他说，“机器人”开始完全负责安排他的日常工作日，似乎不再可能需要人类经理了。
这个“机器人”应用程序的目标是以最有效的方式组织送货。罗德里格斯承认，从雇主的角度来看这是有效的。他说，当他刚开始在位于瑞士小镇伊韦尔东（Yverdon-les-Bains）的这家公司工作时，通常每小时送货两次左右。到他离开时，已经达到四、五次了。
“我很快明白，就人类的层面来说，这将是一场灾难。”罗德里格斯告诉德国之声。他看到“机器人”使得员工互相竞争。速度最快、表现最好的司机得到更多送货数量。他说，最终他发现自己的工作量变少了。他的零工合同并没有保证他的最低工作时数或固定的月薪，他发现自己的收入很难预期。
“对我来说，最糟糕的是告诉我，当我被GPS系统跟踪时，有一个秒表随时随地都在运行，监测我的速度等等。”他说。这造成了他所谓的“社会压力”。取餐时，他不会和餐馆老板打招呼，而是大声叫他们快点，跑进去后，很快跑出来。“这对人来说是可悲的。”
与机器人打交道
罗德里格斯和他的同事们称之为“机器人”的东西，也被叫做算法管理，就是使用计算机程序作出工作决策。它是一种人工智能（AI）。根据欧盟委员会的说法，人工智能是指“通过分析环境并采取行动——具有一定程度的自主性——以实现特定目标而显示出智能表现的系统”。
算法管理的使用尤其与零工经济（gig economy）相关，例如Uber和Deliveroo这样的公司，其员工通常是自由职业者或零工时合同工。
事实上，人工智能工具正在迅速进入经济的各个领域。 对于白领办公室工作，它们可以用于招聘或绩效跟踪。专业服务咨询公司普华永道（PwC）在 2022 年对 1,000 家公司进行的一项调查发现，在过去 12 个月中，六分之一到四分之一的公司在招聘或保留员工方面使用了人工智能。 在使用人工智能最先进的公司中，约 40% 的公司使用它来改善员工体验和技能获取，或提高生产力。
公司可以通过多种方式使用有关员工或求职候选人的数据，正如西班牙银行 BBVA 的非营利组织 OpenMind 去年发布的一份报告所强调的那样：“人力资源专业人员用它决定招聘也就是雇佣谁，考核工人的工作和晋级，确定人们何时可能离职，以及选择未来的领导人。人员分析也被用来管理工人的绩效。”
以美国公司HireVue为例，据其网站介绍，该公司拥有800多个客户，包括亚马逊、G4S和联合利华等大型跨国公司。该公司声称，通过视频求职面试，它可以大大加快招聘速度，为求职者提供更大的灵活性，让招聘更加公平。它还说，算法可以被训练来消除人类招聘人员中常见的无意识的种族和性别偏见。HireVue援引英国客户Co-Operative Bank的例子说，算法工具有助于将偏向男性的性别偏见从70/30的比例降至50/50，实现了性别均等。
然而，近年来，一些专家和记者指出，在人工智能招聘中存在再现种族主义、能力歧视或性别歧视的风险。美国去年的一项研究发现，经过人工智能训练的机器人一再歧视女性和非白人。
美国平等就业机会委员会甚至发布了关于使用工作场所人工智能的指南，警告说“使用这些工具可能会使求职者和残障员工处于不利地位”。例如，他们可能在一个需要高度键盘灵活性的测试中获得低分。
正在进行的法律改革
在欧盟，有两项正在进行中的关键立法，将会影响人工智能在工作中的部署方式。欧盟委员会强调，一般来说，人工智能可以为公民和企业带来好处，但它也对人们的基本权利构成风险。
根据拟议的人工智能法案，就业、工人管理和个体经营被特别提到是高风险的用途。对于此类人工智能工具的制造商和购买者，法律应规定产品上市前的具体义务，主要是合格评定。
这种测试将仔细检查用于训练人工智能系统的数据集的质量（训练不足的系统可能会产生有偏见的结果），对买家的透明度规定和人类监督的水平。一旦产品进入市场，人工智能开发者也将承担监督义务。
欧洲工会研究所的卡斯蒂洛（Aida Ponce Del Castillo）表示，从工人的角度来看，人工智能立法没有具体规范你的老板如何使用它。“这是一个错失的机会。”这位研究人员告诉德国之声，义务落在技术的卖方身上。根据人工智能法案，某些技术将被彻底禁止——比如与中国政府相关的“社会评分”系统——但这还不是对工作场所的具体规范。
卡斯蒂洛说，第二项即将出台的相关立法是平台工作指令。它有一章专门针对算法管理，但顾名思义，它只涵盖了欧盟平台行业估计的 2800 万工人。 根据欧盟委员会的说法，拟议的法律“提高了数字劳动平台使用算法的透明度，确保人工监督他们对工作条件的尊重，并赋予对自动化决策提出异议的权利”。
卡斯蒂洛说，这些法律草案——两者仍在通过欧盟立法程序的过程中——应该为工人提供工具来挑战他们的老板对人工智能的有潜在问题的使用。但她提醒说，不必完全禁止它们。她认为有两件事应该被禁止，一是情绪解读技术（这是最具争议的人工智能使用之一，许多专家怀疑情绪是否简单或普遍到可以测量），二是暂停Uber司机等零工的账户。
“我不想说人工智能不好。我已经将 20 年的生命献给了这方面的技术研究。” 卡斯蒂洛说，这始终关系到管理人的风险。
作为前送货司机，罗德里格斯对“机器人”的看法非常明确：他认为应该对公司可以做什么和不能做什么进行更多的监管。他承认，他最终被Smood公司解雇了。但罗德里格斯解释说他并不介意，因为他已经获得了一份梦想的工作的培训合同，准备成为一名火车司机。
