알고리즘 공정한 고용 & 결과 기반 신호

2026년 4월 11일

개발자

AI 고용은 더 이상 규제되지 않은 국경이 아닙니다. 뉴욕시 지방법 제144은 자동화된 고용 결정 도구에 대한 독립적인 편향 감사가 필요합니다. EU AI법은 AI 고용을 높은 위험으로 분류하고 투명성, 인적 감독 및 감사성을 요구합니다. 캘리포니아, 일리노이, 콜로라도 모두 관련 법안을 도입했습니다.

기존 ATS 플랫폼을 사용하는 기업은 점점 더 노출되고 있습니다. 고용에 있어서 AI은 본질적으로 안전하지 않기 때문이 아니라 대부분의 레거시 도구는 감사가 가능한 것으로 설계되지 않았기 때문입니다.

왜 키워드 일치가 현대적 준수에 실패하는 지

모든 레거시 ATS (그린하우스, 레버, 워커블, 애쉬비, 마나탈) 는 모자 아래의 키워드 기반의 어떤 형태의 일치를 사용합니다. 볼 토큰 추출, TF-IDF 점수, 또는 임베디션 기반의 의미적 유사성. 세 가지 방법 모두 근본적인 문제를 공유합니다: 결정은 불투명한입니다 .

키워드 기반의 ATS가 72점, 58점이라는 후보자가 나왔다고 하면, 논리에는 부동소수점 벡터와 표기중이 있습니다. 채용자들은 이 차이를 단순 영어로 설명할 수 없습니다. 감사는 통계적으로만 샘플을 취할 수 있습니다. 후보자들은 왜 거절당했는지 알 수 없습니다.

- !

현대적 준수는 설명가능성을 기대한다. NYC 지방법 제144은 고용주에게 알림과 대체 절차를 요구합니다. EU AI법은 높은 위험 고용의 투명성 요구 사항을 AI에 규정하고 있습니다. 블랙박스 키워드 필터는 이러한 요구 사항을 구조적으로 충족시킬 수 없습니다.

적대적 취약성

키워드 일치는 두 번째 컴플라이언스 문제로 인해 구조적으로 역동적 재개중독에 취약합니다. 필터 규칙을 아는 지원자들은 숨겨진 흰 텍스트, 반복되는 샷 포인트 또는 가짜 기술 섹션에 키워드를 주입하여 점수를 얻습니다. 이 편견은 시스템을 배운 후보자에 대한 결과를 나타냅니다. 일을 한 후보자에 대한 것이 아닙니다.

보호된 클래스 분석이 키워드 중독된 후보자 풀에서 실행되면 잘못된 결과를 얻습니다. 이 시스템은 공정하게 보이기 때문입니다. 왜냐하면 모든 사람들이 게임을 할 수 있는 기회는 같지만, 성공한 후보들은 게임을 알아낸 사람들입니다. 이것은 다른, 더 미묘한 부당성입니다.

결과 기반의 AI가

의 준수를 어떻게 변화시키는지

성과 기반의 AI는 키워드 존재보다는 측정 가능한 성과를 위해 자기소개서를 읽습니다. Curriculos 모델은 신호의 네 가지 범주를 평가합니다:

RevenueImpact 및 generatedTeamsScope 및 orgsSystemsBuilt 및 scaledProblemsComplexity가 해결되었습니다

각 후보자에 대해 Curriculo ATS는 두 개의 유물을 생성합니다: 0-100의 적합 점수와 의 완전한 필기적 추론 기기. 해당 문서는 직무 요구에 부합하는 결과와 후보자가 실패한 경우를 명시적으로 언급합니다.

샘플: 후보자는 84점을 얻었다. 시스템 전송 신호에 대한 강력한 조율: 생산 중 2M 이벤트/초를 처리하는 사기 탐지 파이프라인의 주도 마이그레이션 팀 범위에 대한 부분적 조율: 18개월 동안 3개의 직접 보고서를 관리했습니다. 수익에 대한 확실한 증거가 없습니다. 이력서는 최근 역할에 대한 구체적인 내용이 부족하여 점수를 제한하였다.

이 아키텍처는 블랙박스 키워드 일치가 실패하는 세 가지 구조적 요구 사항을 충족합니다:

1 설명성

모든 결정은 기록적인 설명이 있습니다. 채용자들은 읽을 수 있습니다. 감사가 샘플을 찍을 수 있습니다. 후보자들은 왜 그들이 그렇게 점수를 받았는지 알 수 있습니다. NYC 지방법 144에 따르면 AI 검진에 대해 지원자에게 정보를 제공하고 대안을 제시해야 할 경우, 작성된 논의를 통해 대화가 가능해질 수 있습니다.

2 감사 가능성

결과 기반 시스템에서의 통계적 편향 감사는 AND 점수를 모두 분석할 수 있습니다. 감사는 보호급 인구에 걸쳐 100개의 논리항을 읽고 AI가 각 그룹에 대해 동일한 신호 범주를 인용하는지 확인할 수 있습니다. 키워드 기반 감사에서 설명되지 않은 점수 변동으로 나타나는 편견은 결과 기반 감사에서 다른 그룹에 대한 다른 신호를 참조하는 논리화로 나타납니다.

3. 적대적 저항

숨겨진 백색 텍스트 키워드 덤프는 결과 기반 모델에 0 신호를 추가합니다. 실제 결과를 구체적이고 정확하게 설명하는 후보자는 좋은 점수를 얻습니다. 필터를 조작하는 후보들은 그렇지 않습니다. 이것은 기존 ATS 필터를 익힌 후보자들에게 이익이 되는 특정 부당성을 줄입니다.

알아야 할 특정 법률

NYC 지방법 144 (2023)

는 NYC 취업 후보자를 검출하기 위해 자동화된 고용 결정 도구 (AEDT) 를 사용하는 모든 고용자에게 적용됩니다. 요구 사항:

독립적인 감사의 연간 편견 감사
감사 요약
AI이 사용되고 있다는 지원자 알림 (AEDT 사용 전 최소 10 사업일)

집행: NYC 소비자 및 근로자 보호부 벌금은 500달러로 위반과 규모로 시작됩니다.

EU AI 법 (2024)

EU 후보 또는 EU에서 활동하는 고용주에게 영향을 미치는 고용 결정에 사용되는 모든 AI 시스템에 적용됩니다. 고용 AI를 고위험로 분류하고 ,

를 요구합니다

생명주기 전반의 위험 관리 시스템
높은 품질의 교육 자료
사용자와 영향을 받는 사람에게 투명성과 설명이 가능
의사결정에 대한 인간의 감시
탄력성, 정확성 및 사이버 보안

집행: 2025~2027년까지 단계적으로 시행 세계 연간 매출의 7%나 35백만 유로까지 벌금형이 적용됩니다.

인증 청구에 관한

우리는 특정 규제 인증에 대한 요구가 없습니다. 준수는 항상 각 배포의 맥락에서 독립적인 감사가 필요하며 매년 재개됩니다. 우리가 할 수 있는 것은 건축은 감사에 합격하기 위해 설계된 것이지,

Curriculo ATS는

의 감사성을 위해 어떻게 설계되었는지

각 점수를 위한 논의를 작성했습니다. 0-100의 모든 점들은 그것을 설명하는 간단한 영어 문장으로 제공됩니다. 기본적으로 감사 트레이를 만듭니다.
결과 기반 신호 카테고리 모델은 임의의 토큰 무게보다는 네 가지 구조화된 범주를 평가하도록 훈련되어 있습니다. 감사는 모델이 예상된 신호를 사용하고 있는지 확인할 수 있습니다.
인간 감독이 내장되어 있습니다. Curriculo ATS는 채용자의 결정을 강화하고, 대신하지 않습니다. 채용자는 점수와 논의를 보고 둘 다 취소할 수 있습니다. ATS는 결코 자율적으로 고용 결정을 내리지 않습니다.
지원 지원자 알림 글쓰기적 논의를 지원자들이 왜 그들이 그렇게 점수를 받았는지 묻는 사람들과 공유할 수 있습니다.

실제로 해야 할 일은

만약 NYC, 캘리포니아, 일리노이, 메릴랜드, 콜로라도, 또는 EU 후보에 취임한다면, AI 취임자 준수 계획이 필요합니다. 핵심 단계:

인벤토리 모든 AI 지원 고용 도구 사용 대부분의 ATS 플랫폼은 자동 점수를 하는 형태를 사용합니다.
제3자 컴플라이언스 회사에서 독립적인 편향 감사를 조직한다. NYC 지역법 144에 대해 매년
필요한 경우 감사 요약을 발표한다.
AI 검진에 대해 지원자에게 알리고 요청할 때 대체 프로세스를 제공하십시오.
인간 감독이 의사결정에 포함된 것을 보장한다. 후보자를 거절하기 위해 AI 점수를 전적으로 의지하지 마십시오.

새로운 ATS 결정에 대해서는, 성과 기반의 체계와 기록적인 추론을 바탕으로 하는 시스템은 키워드 기반의 시스템보다 구조적으로 감사하기가 더 쉽습니다. Curriculo ATS는 이 일을 위해 만들어졌습니다. 무료 계획 는 신용 카드 없이 사용할 수 있습니다. 따라서 어떤 약속을 하기 전에 자신의 후보자에 대한 AI 논의를 평가할 수 있습니다.