5 月 26 日，Stanford HAI 发布了迄今最大规模的 AI 招聘算法实地研究。研究者追踪了 340 万求职者、400 万份求职申请，覆盖 156 家雇主和 11 个行业——所有申请都由同一家第三方 AI 供应商的算法进行筛选。结论清晰地指向两个相互关联的问题：职位层面的种族偏见被聚合数据掩盖，以及多家雇主依赖同一算法导致的"系统性排斥"。
偏见没有被消除，只是被平均了
研究的第一个核心发现是种族歧视在职位层面广泛存在。根据美国《民权法案》第七章（Title VII）和 EEOC 的"五分之四规则"——当一个群体的推荐率低于最高推荐群体的 80% 时，即构成潜在的歧视——研究发现：26% 的黑人求职者和 15% 的亚裔求职者申请了存在算法歧视的职位。如果按最受优待群体（通常是白人）的推荐率来计算，将有 40,000 份额外申请进入下一轮。
这个数字此前从未被发现，原因在于供应商和早期研究者采用的是一刀切的聚合分析。研究合作者 Sarah Bana 在接受 Stanford Digital Economy Lab 访谈时解释："早期的研究报告的是聚合数字——将所有职位平均在一起。我们把数据按职位拆开来看。"U.S. employment law 要求的正是逐职位评估，因为雇主按职位做录用决定。
差异的来源不在于传统的简历人口学线索——姓名、性别、种族都不在输入中。pymetrics 系统通过游戏化任务评估人格特质：让候选人完成类似"吹气球"的神经科学游戏来衡量风险偏好。但正如 Bana 指出的，行为同样编码了身份："处于贫困线的人与从未缺过一顿饭的人，对风险规避的理解完全不同。"这些行为特征在种族群体间分布不均，而机器学习模型将这种差距放大了。
另一个结构性因素来自模型训练方式：pymetrics 的模型针对每个雇主现有员工在某岗位上的表现进行训练。如果该岗位的现有员工队伍本身缺乏多样性，模型的推荐就会系统地复制这种构成。
算法单一文化：当拒绝不再是独立事件
研究的第二个核心发现——也是更有独创性的贡献——是"算法单一文化"（algorithmic monoculture）。这个概念此前主要在理论层面讨论，这是首次在真实招聘数据中得到验证。
超过 90% 的美国雇主使用 AI 筛选求职者，而超过 60% 的 Fortune 100 依赖 HireVue 的算法。pymetrics 等少数供应商的模型同时为几十家雇主服务。当同一个算法生态系统在多家雇主之间做出筛选决策时，求职者的命运就不再是独立事件——被一家拒绝，意味着在其他家被拒绝的概率也显著升高。
数据证实了这一点：提交 4 份申请、全部由同一系统筛选的求职者中，10% 被所有雇主同时拒绝。这个比例不仅绝对值高，而且远超统计独立决策的基线预期（χ² = 18,481, p < 0.001）。作为对照，研究者分析了此前最大规模的招聘研究数据（83,000 份申请、108 家 Fortune 500 公司、非 AI 筛选），该基线模型准确预测了实际结果（χ² = 20.05, p = 0.69）。这意味着过度同质化的结果并非劳动力市场的常态，而是集中化算法筛选的独特特征。
研究者还进行了反事实模拟：在算法单一文化下，求职者需要投递 25 份申请才能以 99.9% 的概率获得至少一次推荐；而在独立决策场景下只需要 10 份。这不是资格问题，而是筛选系统的结构性问题。
供应商声称的"无偏见"为什么不可靠
pymetrics 此前发布了聚合审计结果，显示其工具不存在可测量的偏见。研究者表示，正是这种公开声明让他们预期该供应商的算法是"行业最佳实践"的代表——结果是相反的。
问题出在审计的粒度。按职位逐个分析时，一些模型在仓库岗位多筛选了某一群体，在金融岗位少筛选了同一群体，聚合后两者"互相抵消"。此前的研究（Raghavan et al., 2020; Wilson et al., 2021）之所以发现"几乎不存在歧视"，正是因为这个方法论盲区。而 Title VII 的法律标准恰恰是按职位评估——审计标准和法律标准之间的错配，制造了一个安全的假象。
Rishi Bommasani 在接受访谈时说："我们的研究不反映任何因果证据。但这类工作之所以重要，是因为我有个印象：公司通常不完全理解它们的筛选过滤器对求职者池做了什么。"他还指出，AI 招聘结合了三个不应共存的特征：高利害决策、全经济范围采用、几乎完全没有外部独立研究。
法律风险已经启动，雇主责任不会因外包而转移
这项研究发表在美国律师界和 HR 合规行业引发直接反应。Jones Walker 律所的合伙人 Jason Culotta 写道，研究"强化了原告在 disparate impact 诉讼中每个要素的主张"——大规模统计证据、因果链条（锁定算法）、以及集体诉讼的依据。
此前已有判例在铺垫这条路：Harper v. Sirius XM 案中雇主因使用 AI 筛选被直接起诉；Mobley v. Workday 案则在辩论 AI 供应商本身是否应被视为"就业代理机构"而承担法律责任。Stanford 的研究为这些诉讼提供了此前缺失的实证基础。
DirectEmployers Association 的分析文章则指出，Title VII 和 ADA 的法律责任不会因为使用了第三方供应商而转移。"供应商合同、审计文档和偏见披露报告很重要——但它们不转移责任。使用该工具的组织仍然对结果负责。"
纽约市 Local Law 144 已经建立了针对自动就业决策工具的早期监管框架，但当前指南未充分覆盖本研究发现的位置层面效应。欧盟 AI Act 将招聘系统归类为高风险 AI。中国尚未建立针对 AI 招聘的专项法规，但随着 AI 在招聘中的渗透率上升（BOSS 直聘、猎聘等平台已全面引入 AI 筛选），这一问题同样值得关注。
独立研究的入口仍然被锁死
本研究的一个隐含信息是：类似的实证研究几乎不可复制。研究者是"第一个也是唯一一个"获得大规模部署中的招聘算法数据访问权的独立团队。pymetrics "慷慨地分享了他们的数据"，但绝大多数供应商将数据锁在门后。
Bommasani 强调了这种反常："招聘 AI 将三个不应共存的事实结合在一起——用 AI 影响高利害决策、全经济范围地采用 AI、却几乎没有外部独立研究。"他建议政策制定者应当通过立法扩大研究者对主要招聘平台底层数据的访问权，因为"问题很难被诊断，更不用说纠正，如果没有经验性、外部进行的研究作为基础"。
这项研究的最直接建议是：AI 供应商必须按职位（而非聚合）衡量 adverse impact，雇主在采购时应要求提供此类信息。联邦机构应量化跨雇主的同质化结果，并监测招聘供应链中的共享依赖——因为当多个雇主依赖同一系统时，失败不再是个别事件，而会变成相关性的、系统性的市场失灵。
