2026年4月11日
开发
招聘 AI 不再是一个无规管的边疆。纽约市第 144 号地方法规要求对自动化就业决策工具进行独立偏见审计。EU AI 法案将就业 AI 分类为高风险，并要求透明度、人工监督和可审计性。加利福尼亚州、伊利诺伊州和科罗拉多州都已引入相关立法。
使用传统 ATS 平台的公司正日益暴露于风险之中。并非因为 AI 在招聘环节本身不安全，而是因为大多数传统工具在设计之初并未考虑可审计性。
为什么关键词匹配在现代合规中失效
每个传统的 ATS（Greenhouse、Lever、Workable、Ashby、Manatal）底层都采用某种形式的基于关键字的匹配。布尔令牌提取、TF-IDF评分或基于嵌入的语义相似度。这三种方法都存在一个根本问题： 决策过程不透明.
当基于关键词的 ATS 告诉你一名候选人得了 72 分，另一名得了 58 分时，其推理过程存在于浮点向量与词元权重之中。招聘人员无法用通俗易懂的英语解释其中的差异。审计人员只能对其进行统计抽样。候选人无法得知自己被拒绝的原因。
合规差距现代合规性要求可解释性。NYC 地方法第144条要求雇主通知和替代流程。EU AI 法案强调了高风险就业 AI 的透明度要求。黑盒关键词过滤器在结构上无法满足这些要求。
对抗性漏洞
关键词匹配存在第二个合规问题：它在结构上容易受到简历投毒攻击。那些了解筛选规则的候选人会通过隐藏的白色文字、重复的要点或伪造的技能部分来注入关键词，以操纵评分。这导致结果偏向那些已经熟悉系统的人，而不是那些真正付出努力的人。
当受保护类别分析在关键词中毒候选池上运行时，会产生误导性的结果。这个系统看似公平，因为每个人都有同样的机会去钻空子，但真正成功的候选人是那些看透了规则并加以利用的人。这是一种不同且更微妙的不公。
基于结果的AI如何改变合规格局
基于结果的 AI 阅读简历时关注的是可衡量的成果，而非关键词的存在。Curriculo的模型评估四类信号：
RevenueImpact、generatedTeamsScope、orgsSystemsBuilt和scaledProblemsComplexity已解决对于每位候选人，Curriculo ATS会产生两个文档：一个0-100的匹配度评分和一个 完整的书面理由段落。该段落明确指出哪些结果符合工作要求以及候选人在哪些方面存在不足。
样本： “考生得分84。在“系统发货量”指标上高度一致：主导了生产环境中每秒处理200万事件的欺诈检测管道迁移工作。在“团队范围”方面取得部分一致：管理3名直接下属，持续18个月。没有明确的收入影响证据。简历在最近的工作经历中缺乏具体性，导致评分受限。
该架构满足了黑盒关键词匹配所无法实现的三项结构要求：
一可解释性
每项决定都有书面说明。招聘人员可以阅读。审计人员可以对其进行抽样。可以向候选人说明其评分的依据。当NYC地方法第144条要求候选人必须被告知AI筛查的情况并提供替代方案时，书面理由使得这一对话成为可能。
2.可审计性
对基于结果的系统进行的统计偏差审计可以审查分数AND的推理过程。审计人员可以阅读跨越受保护群体的一百段推理内容，并验证 AI 是否对每个群体都引用了相同的信号类别。在基于关键词的审计中表现为“未解释的分数方差”的偏见，在基于结果的审计中则显现为“对不同群体引用不同信号进行推理”。
3.对抗性抗性
隐藏的白文本关键词数据对结果导向模型毫无贡献。那些对实际结果进行具体、准确描述的候选人得分较高。试图操纵筛选器的候选人不会被选中。这减少了那种有利于那些学会操纵传统 ATS 筛选器的候选人的特定类型的不公平现象。
你应该了解的具体法律
NYC 本地法律 144（2023年）
适用于任何使用自动化就业决策工具（AEDTs）来筛选候选人申请NYC工作的雇主。要求：
- 由独立审计师进行的年度偏见审计
- 审计摘要的公开披露
- 候选人通知，AI 正在使用中（在 AEDT 使用前至少 10 个工作日）
- 为要求提供替代流程的候选人提供的替代流程
执行：NYC 消费者与工人保护部。罚款从每次违规500美元起，并会递增。
EU AI 行动（2024年）
适用于任何用于影响 EU 候选人或 EU 地区雇主的招聘决策的 AI 系统。将就业 AI 分类为 高风险，需要：
- 全生命周期的风险管理系统
- 高质量训练数据
- 对用户和受影响人员的透明度和可解释性
- 对决策的人类监督
- 鲁棒性、准确性和网络安全
执行：分阶段实施，至2025-2027年。罚款金额最高可达全球年营业额的7%或3500万欧元，以较高者为准。
关于认证主张
我们并未声称拥有特定的监管认证。合规性在每次部署时均需进行独立审计，并每年更新。我们可以说，该架构的设计目的是通过审计，而不是对抗审计。
Curriculo ATS 如何设计以实现可审计性
- 每项评分的书面理由。 每个 0-100 的匹配分数都附有一段通俗易懂的说明文字。默认创建审计跟踪。
- 基于结果的信号类别 该模型经过训练，用于评估四个结构化类别（收入、团队、系统、问题），而非任意令牌权重。审计人员可以验证模型是否使用了预期的信号。
- 内置人工监督。 Curriculo ATS 增强招聘人员的决策，而非取代他们。招聘人员会查看评分及其依据，并且可以修改其中任意一项。ATS 永远不会自主做出招聘决定。
- 候选人通知支持。 可以将书面推理过程与那些询问评分依据的考生分享。
你实际上应该做什么
如果在NYC、加利福尼亚、伊利诺伊、马里兰、科罗拉多招聘，或针对EU候选人，需要AI招聘合规计划。核心步骤：
- 盘点你使用的每一个支持 AI 的招聘工具。大多数 ATS 平台采用某种形式的自动评分。
- 通过第三方合规公司安排一次独立的偏见审计。NYC地方法第144条每年。
- 按要求发布审计摘要。
- 通知候选人关于AI的筛查情况，并在请求时提供替代流程。
- 确保在决策中融入人类监督。切勿仅凭AI分数拒绝候选人。
对于新的 ATS 决策，基于结果并附带书面理由的系统在结构上比基于关键词的系统更易于审计。Curriculo ATS 为此而生。 免费版 无需信用卡即可使用，因此您可以在做出任何承诺之前，自行评估 AI 推理在您的候选方案上的表现。