纽约市成为世界上第一个制定法律规范自动就业决策工具(AEDT)使用的城市。康奈尔大学的研究人员发现，该法律的解释和执行方面的困难导致很少有公司遵守规则。
AEDT使用机器学习、统计建模、数据分析或人工智能来帮助雇主和职业介绍所决定雇用哪个申请人，同时取代自由裁量决策。
这些工具使用人工智能来处理堆积如山的简历，分析面试中的情绪或心理因素，以及一系列其他因素，最终说：‘雇用这个人。’
由于人工智能模型中固有的偏见，AEDT在选择他们推荐的求职者时可能会表现出偏见，因此引入了当地法律144(LL144)。
该法律于2023年1月1日颁布，并于去年7月开始实施，旨在打击使用AEDTs可能给边缘化求职者带来的潜在伤害。
该法律规定，纽约市的雇主可以使用AEDT，但他们需要对他们的工具进行偏见审计，公布审计结果，并告知求职者他们在招聘过程中正在使用该工具。
法律怎么样了？
康奈尔大学的研究人员发现，AEDTs是什么以及如何使用的定义中的模糊性可能是非常低的依从性背后的原因。
研究人员派出了155名大学生作为潜在的求职者，他们分析了近400家雇主的18项偏见审计和11项透明度通知。
雇主是否没有进行审计或发布透明度通知，因为他们没有达到法律规定的门槛？也许吧，但随着AEDTs的广泛使用，这不太可能。
这项研究的合著者、博士生卢卡斯·赖特说：“我们发现，由于法律赋予雇主自由裁量权来决定法律是否适用于他们使用自动就业决策工具(AEDT)，我们只能就是否遵守法律提出索赔，而不能对不符合法律的行为提出索赔。”
Wright说，虽然这项法律背后的想法是好的，“虽然这项法律为独立算法审计员创造了一个市场，并带来了一些透明度，但它实际上为雇主创造了避免审计的动机。
人工智能工具将越来越多地用于做出招聘决策，除非有严格的规则，否则AEDT将继续使训练数据中的偏见永久化。
LL144是一个很好的开始，但它并没有说明如果AEDT未能通过偏见审计会发生什么。它还说，任何人都可以成为审计师，只要他们不为AEDT的雇主或出版商工作。
LL144的违规者将面临500美元至1500美元的罚款。这项法律依赖于自我监管，并没有赋予消费者和工人保护部(DCWP)主动调查或发现的权力。
这使得低水平的合规并不令人意外。如果立法者想要保护求职者免受决定他们未来的潜在故障人工智能的影响，他们可能需要重新考虑LL144。
