周三，纽约市在规范人工智能技术对该市工作招聘流程的影响方面迈出了一小步。这种技术被称为自动化就业决策工具(AEDT)，通常采用人工智能或算法为工作或晋升的候选人分配自动排名或分数。该市的《自动化就业决策工具法》(Automated Employment Decision Tool law)，也被称为144号地方法(Local law 144)，现在要求任何使用此类技术的雇主都必须接受第三方对这些工具的故意或意外偏见的审计。该法律目前生效，并将于2023年7月5日开始执行，此后，不合规的企业可能面临每天使用每种工具500美元至1500美元不等的罚款。
这是招聘实践和人工智能领域的第一个重大立法。根据Zippia的说法，65%的招聘人员在招聘过程中以某种形式使用人工智能，比如从数千份求职申请中筛选特定的资格参数，搜索社交媒体，甚至在视频面试中分析候选人的面部表情或肢体语言。
AEDTs通常被推广为一种管理大量求职者的招聘流程的方法。“在互联网时代，找工作要容易得多。有一些工具可以让候选人简化这一过程。比如‘把你的简历给我们，我们会申请400个职位，’”咨询公司Orcaa的首席执行官凯茜·奥尼尔在接受NBC新闻采访时表示。“他们收到的申请太多了。他们必须以某种方式筛选名单，所以这些算法为他们做了这件事。”
但是，人工智能远不能公正地评判潜在的候选人——人工智能数据集和技术往往会延续人类的偏见，如种族主义、性别歧视和年龄歧视。
批评人士认为，法律是不够的。具体来说，一项审计资格要求人工智能“实质性地协助或取代酌情决策”。民主与技术中心(Center for Democracy & Technology)主席亚历山德拉?吉文斯(Alexandra Givens)今年5月对《华尔街》表示，她担心这可能会被解释为，在这些情况下，人工智能是“招聘决定中唯一或主要的因素，或者被用来推翻人类的决定”，而不是招聘过程的一部分。
她补充说:“我最担心的是，当我们应该向政策制定者提出更多要求时，这将成为全国的模板。”目前，新泽西州、马里兰州、伊利诺伊州和加利福尼亚州也在考虑制定类似的法律。
纽约大学(New York University)计算机科学教授、该市自动决策系统工作组(Automatic Decisions Systems Task Force)创始成员之一的朱莉娅·斯托亚诺维奇(Julia Stoyanovich)向NBC指出，要求的审计也不涉及基于年龄或残疾的歧视。
招聘中的偏见，无论是通过人工还是人工智能，几十年来一直是一个突出的问题——多年来，这个问题往往面临着微不足道的改善。这项法律是否会产生影响还有待观察。
电子隐私信息中心(Electronic Privacy information Center)的本?温特斯(Ben Winters)表示:“我不抱任何希望，认为(这项法律)会给我们提供任何信息，或者真的允许人们根据自己的招聘经验增加公平。”
