2026 年 4 月 11 日
开发人员
招聘 AI 不再是一个无规管的边疆。纽约市第 144 号地方法规要求对自动化就业决策工具进行独立偏见审计。EU AI 法案将就业 AI 分类为高风险，并要求透明度、人工监督和可审计性。加利福尼亚州、伊利诺伊州和科罗拉多州都已引入了相关立法。
使用传统 ATS 平台的公司越来越容易受到影响。不是因为 AI 在招聘中本质上是不安全的，而是因为大多数传统工具不是为可审计性而设计的。
为什么关键词匹配无法满足现代合规性
每个传统的 ATS （Greenhouse, Lever, Workable, Ashby, Manatal）都使用某种形式的基于关键词的匹配算法。在幕后，它们使用布尔令牌提取、TF-IDF 评分或基于嵌入的语义相似性。所有三种方法都存在一个根本问题： 决策过程不透明。
当一个基于关键词的 ATS 告诉你一个候选人得分为 72，而另一个候选人得分为 58，推理过程存在于浮点数向量和令牌权重中。招聘人员无法用简单的英语解释差异。审计人员只能通过统计方法进行抽样。候选人无法得知为什么被拒绝。
!合规性差距现代合规性要求可解释性。 NYC 地方法第 144 条要求雇主通知和替代流程。 EU AI 法案强调了高风险就业 AI 的透明度要求。黑盒关键词过滤器无法在结构上满足这些要求。
对抗性漏洞
基于关键词的匹配有第二个合规性问题：它在结构上容易受到对抗性简历中毒的影响。知道过滤规则的候选人会在隐藏的白色文本、重复的项目符号或假的技能部分中注入关键词，以操纵评分。这偏向于那些了解系统的候选人，而不是那些做过工作的候选人。
当在关键词中毒的候选人池上运行受保护类别分析时，会得到误导性的结果。系统看起来公平，因为每个人都有相同的机会来操纵它，但成功的候选人是那些弄清楚了游戏规则的人。这是一种不同、更微妙的不公平性。
基于结果的 AI 如何改变合规性格局
基于结果的 AI 读取简历中的可衡量结果，而不是关键词存在。 Curriculo 的模型评估四类信号：
RevenueImpact、generatedTeamsScope、orgsSystemsBuilt和scaledProblemsComplexity已解决对于每个候选人，CurriculoATS生成两个文档：一个0-100的匹配度评分和一个 完整的书面推理段落。该段落明确指出哪些结果符合工作要求以及候选人在哪些方面存在不足。
示例： “候选人得分84。系统交付信号的强对齐：领导了处理2M事件/秒的生产环境中的欺诈检测管道迁移。团队范围的部分对齐：管理了3名直接下属18个月。没有明确的收入影响证据。简历缺乏最近职位的具体信息，这限制了评分。”
该架构满足三个结构要求，这些要求是黑盒关键词匹配无法满足的：
1. 可解释性
每个决定都有书面解释。招聘人员可以阅读它。审计员可以抽样它。候选人可以被告知他们为什么被评分为某种方式。当NYC地方法144要求候选人被告知关于AI筛选和提供替代方案时，书面推理使得这种对话成为可能。
2. 审计性
基于结果的系统的统计偏差审计可以检查评分和推理。审计员可以阅读100个推理段落，遍历受保护类别的人口，并验证AI是否引用每个组的相同信号类别。关键词基于审计中显示为“未解释的评分方差”的偏差，在基于结果的审计中变得可见为“引用不同组的不同信号的推理”。
3. 对抗性抵抗
隐藏的白色文字关键词不会为基于结果的模型添加任何信号。能够撰写具体、准确的描述其真实结果的候选人会获得高分。试图操纵过滤器的候选人不会。这样可以减少一种特定的不公平现象，即有利于那些学会了操纵传统ATS过滤器的候选人。
您应该知道的具体法律
NYC 地方法144（2023）
适用于任何使用自动化就业决策工具（AEDTs）来筛选候选人以获得NYC工作的雇主。要求：
- 由独立审计师进行的年度偏见审计
- 公开披露审计摘要
- 通知候选人AI正在被使用（在AEDT使用前至少10个工作日）
- 为请求它们的候选人提供替代流程
执法：NYC 消费者和工人保护部门。罚款从每次违规500美元开始，并按比例增加。
EU AI 法案（2024）
適用於任何 AI 系統，該系統用於影響 EU 候選人或在 EU 運營的雇主的招聘決策。將就業 AI 分類為 高風險，需要：
- 風險管理系統在整個生命周期
- 高質量的訓練數據
- 對用戶和受影響人群的透明度和可解釋性
- 人工監督決策
- 穩健性、準確性和網絡安全
執行：分階段實施於 2025-2027 年。罰款高達全球年度營業額的 7% 或 3500 萬歐元，以較高者為準。
對認證聲明
我們不聲稱具體的法規認證。合規始終需要在每次部署的背景下進行獨立審計，每年更新一次。我们可以說的是，架構的設計目的是通過審計而不是與其對抗。
如何 Curriculo ATS 的設計以便於審計
- 为每个评分提供书面理由。 每个0-100的适配评分都附带一个解释它的普通语言段落。 默认情况下创建审计跟踪。
- 基于结果的信号类别。 模型被训练为评估四个结构化类别（收入、团队、系统、问题），而不是任意的令牌权重。 审计员可以验证模型是否使用预期的信号。
- 内置人工监督。 Curriculo ATS 增强招聘人员的决策，而不是取代它们。 招聘人员可以看到评分和理由，并可以覆盖任意一个。 ATS 从不自主做出招聘决定。
- 候选人通知支持。 书面理由可以与询问为什么他们被评分的候选人共享。
您应该实际做什么
如果您在 NYC，加利福尼亚州、伊利诺伊州、马里兰州、科罗拉多州或为 EU 候选人招聘，您需要一个 AI-招聘合规计划。 核心步骤：
- 清点您使用的每个 AI-启用的招聘工具。 大多数 ATS 平台使用某种形式的自动评分。
- 通过第三方合规公司安排独立偏差审计。 每年为 NYC 地方法第144条。
- 在需要的地方发布审计摘要。
- 通知候选人关于 AI 筛选并在请求时提供替代流程。
- 确保决策中包含人工监督。永远不要仅依赖 AI 得分来拒绝候选人。
对于新的 ATS 决策，基于结果的系统具有书面推理，结构上比基于关键词的系统更容易审计。 Curriculo ATS 为此而设计。 免费计划 可以无需信用卡获得，因此您可以在做出任何承诺之前评估 AI 推理在您自己的候选人中的效果。