5 月 26 日，Stanford HAI 发布了迄今最大规模的 AI 招聘算法实地研究。研究者追踪了 340 万求职者、400 万份求职申请，覆盖 156 家雇主和 11 个行业——所有申请都由同一家第三方 AI 供应商的算法进行筛选。研究发现了两个相关问题：逐岗位分析能发现被汇总数据掩盖的种族群体推荐率差异；多家雇主依赖同一供应商时，一些求职者会反复收到不推荐结果，研究者称之为"系统性排斥"。这里观察的是算法推荐结果，不能直接等同于雇主最终录用决定，研究也未提供因果证据。
逐岗位看推荐率，能发现汇总数据掩盖的差异
研究首先按岗位比较不同种族群体的推荐率。研究者采用美国《民权法案》第七章（Title VII）相关评估中的 EEOC "五分之四规则"：若一个群体的推荐率低于最高推荐群体的 80%，则将该岗位标记为存在不利影响。这个比例用于筛查，不等于已经作出违法认定。按项目页面的申请口径，黑人求职者提交的申请中约 26%、亚裔求职者提交的申请中约 15%，投向了对其群体存在不利影响的岗位。如果按最受优待群体（通常是白人）的推荐率来计算，将有 40,000 份额外申请进入下一轮。
这些差异在此前的汇总分析中不容易被看见。供应商和早期研究者将不同岗位的数据合并分析，可能让方向相反的差异互相抵消。研究合作者 Sarah Bana 在接受 Stanford Digital Economy Lab 访谈时解释："早期的研究报告的是聚合数字——将所有职位平均在一起。我们把数据按职位拆开来看。"美国就业法律相关评估关注的正是具体职位，因为雇主按职位做录用决定。
这套系统没有将姓名、性别、种族等传统简历人口学线索作为输入。pymetrics 系统通过游戏化任务评估人格特质：让候选人完成类似"吹气球"的神经科学游戏来衡量风险偏好。但 Bana 认为，行为也可能间接反映个人处境："处于贫困线的人与从未缺过一顿饭的人，对风险规避的理解完全不同。"这些行为特征在种族群体间的分布差异，可能与模型的推荐差异有关；研究尚不能确认其中的因果机制。
另一个结构性因素来自模型训练方式：pymetrics 的模型针对每个雇主现有员工在某岗位上的表现进行训练。Bana 提出，如果该岗位现有员工缺乏多样性，模型可能延续这种构成。但团队取得的数据不足以直接观察和验证这一机制。
共用供应商，可能让多个岗位作出相似筛选结果
研究还检验了"算法单一文化"（algorithmic monoculture）：不同雇主使用同一供应商或相似方式构建的算法，可能产生相似筛选结果。研究者称，这是首次在大规模真实招聘数据中展示相关证据。
超过 90% 的美国雇主使用 AI 筛选求职者，而超过 60% 的 Fortune 100 依赖 HireVue 的算法。pymetrics 等少数供应商的模型同时为几十家雇主服务。当同一个算法生态系统在多家雇主之间做出筛选决策时，不同岗位给出的结果可能相互关联。一份申请未获推荐的人，也可能更容易在其他岗位收到相同结果。
数据证实了这一点：提交 4 份申请、全部由同一系统筛选的求职者中，有 10% 的人在 4 份申请中均未获算法推荐。这个比例不仅绝对值高，而且远超统计独立决策的基线预期（χ² = 18,481, p < 0.001）。作为对照，研究者分析了此前最大规模的招聘研究数据（83,000 份申请、108 家 Fortune 500 公司，该研究未以是否采用 AI 为研究重点），该基线模型准确预测了实际结果（χ² = 20.05, p = 0.69）。在这组对照数据中，研究者没有观察到同样程度的结果趋同。不过，这不能代表整个劳动力市场，也不能单独证明算法导致了差异。
研究者还进行了反事实模拟：在算法单一文化下，求职者需要投递 25 份申请才能以 99.9% 的概率获得至少一次推荐；而在独立决策场景下只需要 10 份。这一模拟说明，共用筛选系统可能影响广泛投递带来的机会，但模拟结果不能直接视为每位求职者实际需要投递的次数。
供应商的汇总审计，不能替代逐岗位审计
pymetrics 此前发布了聚合审计结果，显示其工具不存在可测量的偏见。研究者表示，正是这种公开声明让他们预期该供应商的算法是"行业最佳实践"的代表。逐岗位分析却发现了汇总结果没有呈现的问题。
问题出在审计的粒度。例如，同一群体可能在仓库岗位更常获得推荐，在金融岗位较少获得推荐，汇总后两种差异"互相抵消"。此前的研究（Raghavan et al., 2020; Wilson et al., 2021）之所以发现"几乎不存在歧视"，正是因为这个方法论盲区。而 Title VII 的法律标准恰恰是按职位评估——审计标准和法律标准之间的错配，可能让使用者低估某些岗位上的差异。
Sarah Bana 在接受访谈时说："我们的研究不反映任何因果证据。但这类工作之所以重要，是因为我有个印象：公司通常不完全理解它们的筛选过滤器对求职者池做了什么。"Rishi Bommasani 另指出，AI 招聘结合了三个不应共存的特征：高利害决策、全经济范围采用、几乎完全没有外部独立研究。
相关诉讼已出现，研究结果不等于个案责任认定
这项研究发表后，引起美国律师界和 HR 合规行业的讨论。Jones Walker 律所的合伙人 Jason Culotta 写道，研究"强化了原告在 disparate impact 诉讼中每个要素的主张"——大规模统计证据、因果链条（锁定算法）、以及集体诉讼的依据。
此前已有相关诉讼：Harper v. Sirius XM 案中雇主因使用 AI 筛选被直接起诉；Mobley v. Workday 案则在辩论 AI 供应商本身是否应被视为"就业代理机构"而承担法律责任。这项研究可能为相关讨论提供统计参考，但并未认定这些案件中的责任，也不能替代对个案因果关系的证明。
DirectEmployers Association 的分析文章则指出，Title VII 和 ADA 的法律责任不会因为使用了第三方供应商而转移。"供应商合同、审计文档和偏见披露报告很重要——但它们不转移责任。使用该工具的组织仍然对结果负责。"
纽约市 Local Law 144 已经建立了针对自动就业决策工具的早期监管框架，但当前指南未充分覆盖本研究发现的岗位层面效应。欧盟 AI Act 将招聘系统归类为高风险 AI。中国尚未建立针对 AI 招聘的专项法规，但随着 AI 在招聘中的渗透率上升（BOSS 直聘、猎聘等平台已引入 AI 筛选），这一问题同样值得关注。
数据访问受限，独立研究难以扩大
这项研究也说明了数据访问的重要性。据研究者所知，他们是"第一个也是唯一一个"获得这类大规模部署数据访问权的独立团队。缺少类似数据，会限制其他团队复核结果和扩大研究。pymetrics "慷慨地分享了他们的数据"，但绝大多数供应商将数据锁在门后。
Bommasani 强调了这种反常："招聘 AI 将三个不应共存的事实结合在一起——用 AI 影响高利害决策、全经济范围地采用 AI、却几乎没有外部独立研究。"他建议政策制定者应当通过立法扩大研究者对主要招聘平台底层数据的访问权，因为"问题很难被诊断，更不用说纠正，如果没有经验性、外部进行的研究作为基础"。
研究者建议，AI 供应商应按职位衡量不利影响（adverse impact），雇主在采购时应要求提供此类信息。联邦机构应量化跨雇主的同质化结果，并监测招聘供应链中的共享依赖——因为多个雇主依赖同一系统时，相关的筛选结果可能限制同一批求职者的机会。
