2026년 4월 11일
데브
AI를 고용하는 것은 더 이상 규제되지 않은 국경이 아닙니다. 뉴욕시 지방법 144호는 자동화된 고용 결정 도구에 대한 독립적인 편견 감사가 필요합니다. EU AI 법은 고용 AI을 고위험으로 분류하고 투명성, 인적 감독 및 감사성을 요구합니다. 캘리포니아, 일리노이, 콜로라도 등이 관련 법안을 도입했습니다.
기존 ATS 플랫폼을 사용하는 회사들은 점점 더 노출되고 있습니다. AI의 고용은 본질적으로 안전하지 않기 때문이 아니라 대부분의 레거시 도구가 감사할 수 있도록 설계되지 않았기 때문입니다.
키워드 일치가 현대적 준수에 실패하는 이유
모든 레거시 ATS (Greenhouse, Lever, Workable, Ashby, Manatal) 는 카우트 아래에서 어떤 형태의 키워드 기반 매칭을 사용합니다. 부엘 토큰 추출, TF-IDF 스코어, 또는 임베딩 기반의 의미 유사성 이 세 가지 방법 모두 근본적인 문제를 공유합니다. 결정은 불투명합니다..
키워드 기반의 ATS가 한 후보가 72점을, 다른 후보가 58점을 받았다고 말할 때, 추론은 부동 소수점 벡터와 토큰 웨이트로 이루어집니다. 채용사들은 그 차이를 단순 영어로 설명할 수 없습니다. 감사는 통계적으로만 샘플링할 수 있습니다. 지원자는 왜 거절당했는지 알 수 없습니다.
!응용 격차현대적 컴플라이언스는 설명가능성을 기대합니다. NYC 지역법 144은 고용주 알림과 대체 절차를 요구합니다. EU AI 법은 고위험 고용 AI에 대한 투명성 요구 사항을 요구합니다. 블랙박스 키워드 필터는 구조적으로 이러한 요구 사항을 충족 할 수 없습니다.
적대적 취약성
키워드 매칭은 두 번째 컴플라이언스 문제를 가지고 있습니다. 필터 규칙을 알고 있는 지원자는 숨겨진 흰색 텍스트, 반복된 구미점, 또는 가짜 기술 섹션에 키워드를 삽입하여 점수를 얻습니다. 이것은 시스템을 익힌 후보자, 일을 한 후보자가 아닌 후보자에 대한 편견입니다.
보호된 클래스 분석이 키워드 중독된 후보 풀에서 실행되면 잘못된 결과를 얻을 수 있습니다. 이 시스템은 공평해 보입니다. 왜냐하면 모든 사람들이 게임을 할 기회가 같기 때문입니다. 하지만 성공하는 후보들은 게임을 알아낸 사람들입니다. 이것은 다른, 더 미묘한 불공평입니다.
결과 기반의 AI가 준수 그림을 어떻게 변화시키는가
결과 기반의 AI은 키워드 존재보다는 측정 가능한 결과를 위해 자기소개서를 읽습니다. Curriculo의 모델은 네 가지 유형의 신호를 평가합니다.
RevenueImpact과 generatedTeamsScope과 orgsSystemsBuilt과 scaledProblemsComplexity이 해결되었습니다각 후보자를 위해 Curriculo ATS는 두 개의 유물을 생성합니다: 0-100의 적합 점수와 의 완전한 서면적 인 논증 지문. 이 문항은 어떤 결과가 직무 요구 사항에 부합하는지, 그리고 후보자가 부족한 지에 대해 명시적으로 언급합니다.
표본: 후보가 84점을 받았습니다. 시스템 배송 신호에 대한 강력한 조화: 생산에서 2M 이벤트/초를 처리하는 사기 탐지 파이프 라인의 주도 마이그레이션. 팀 범위에 대한 부분적 조화: 18 개월 동안 3 개의 직접 보고를 관리했습니다. 수익에 미치는 영향은 명확하지 않습니다. 이력서에는 최근 역할에 대한 구체성이 부족하여 점수를 제한합니다.
이 아키텍처는 블랙박스 키워드 매칭이 실패하는 세 가지 구조적 요구 사항을 만족합니다.
1. 설명 가능성
모든 결정에는 설명이 있습니다. 채용자들은 읽을 수 있습니다. 감사원들도 샘플을 받아볼 수 있습니다. 지원자들은 그들이 어떻게 점수를 받았는지 알 수 있습니다. NYC 지방법 144호가 지원자에게 AI 검진에 대해 정보를 제공하고 대안을 제시하도록 요구할 때, 서면적 논문은 그 대화를 가능하게 합니다.
2. 감사 가능성
결과 기반 시스템에서의 통계적 편견 감사는 AND 점수와 추론을 모두 조사 할 수 있습니다. 감사자는 보호된 클래스 집단에서 100개의 추론 문장을 읽고 AI가 각 그룹에 대해 동일한 신호 범주를 인용하고 있는지 확인할 수 있습니다. 키워드 기반의 감사에서 설명되지 않은 점수 변동으로 나타나는 편견은 결과 기반의 감사에서 다른 그룹에 대한 다른 신호를 참조하는 추론으로 표시됩니다.
3. 적대적 저항력
숨겨진 화이트 텍스트 키워드 덤프는 결과 기반 모델에 0 신호를 추가합니다. 자신의 실제 성과에 대한 구체적이고 정확한 설명을 작성하는 지원자는 좋은 점수를 얻습니다. 필터를 조작하려는 후보들은 그렇지 않습니다. 이것은 레거시 ATS 필터를 배우게 된 후보자에게 이익이 되는 특정 종류의 불공평함을 줄입니다.
당신이 알아야 할 특정 법
NYC 지방법 144 (2023)
자동 고용 결정 도구 (AEDT) 를 사용하여 NYC 직장에 대한 후보자를 검사하는 모든 고용주에 적용됩니다. 다음을 요구합니다.
- 독립 감사의 매년 편견 감사
- 감사 요약의 공개
- AI가 사용되고 있다는 후보자 알림 (AEDT 사용 전 최소 10 일)
- 신청하는 지원자의 대안 절차
집행: NYC 소비자 및 근로자 보호부 과태료는 500달러로 시작됩니다.
EU AI 법 (2024)
EU 지원자나 EU에서 활동하는 고용주에게 영향을 미치는 AI 고용 결정에 사용되는 모든 AI 시스템에 적용됩니다. 고용 AI을 고위험으로 분류합니다.
- 라이프 사이클 내내 위험 관리 시스템
- 고품질의 교육 데이터
- 투명성 및 사용자 및 영향을받는 사람에게 설명 가능성
- 인간 의 결정 감독
- 안정성, 정확성, 사이버 보안
시행: 2025~2027년까지 단계적으로 시행한다. 전 세계 연간 매출의 7% 또는 3천 5백만 유로 이하의 벌금
인증 주장에 관한
우리는 특정 규제 자격증을 요구하지 않습니다. 준수 여부는 항상 매년 갱신되는 각 배치의 맥락에서 독립적인 감사가 필요합니다. 우리가 말할 수 있는 것은 건축물이 검사를 통과하기 위해 설계된 것이지 검사를 견제하기 위해 설계된 것이 아니라는 것입니다.
Curriculo ATS이 감사 가능하도록 설계된 방법
- 모든 점수에 대한 적당한 근거가 있습니다. 모든 0-100 피트 스코어에는 간단한 영어로 설명된 단락이 있습니다. 오디트 트랙을 기본적으로 만듭니다.
- 결과 기반의 신호 분류 모델은 임의의 토큰 가중치보다는 네 가지 구조화된 카테고리 (소득, 팀, 시스템, 문제) 를 평가하도록 훈련되었습니다. 감사는 모델이 예상 신호를 사용한다는 것을 확인할 수 있습니다.
- 인간의 감독이 내장되어 있습니다. Curriculo ATS는 채용자의 결정을 증진시키는 것이 아니라 대체합니다. 채용자들은 점수와 추론을 보고 둘 다 무시할 수 있습니다. ATS는 결코 독자적으로 고용 결정을 내리지 않습니다.
- 지원자 알림 지원 작성된 추론은 그들이 어떻게 점수를 받았는지 묻는 지원자와 공유 할 수 있습니다.
실제로 해야 할 일
만약 여러분이 NYC, 캘리포니아, 일리노이, 메릴랜드, 콜로라도, 또는 EU 후보들을 고용한다면, 여러분은 AI 고용 준수 계획이 필요합니다. 핵심 단계:
- 당신이 사용하는 모든 AI 지원 고용 도구를 점검하세요. 대부분의 ATS 플랫폼은 어떤 형태의 자동 점수를 사용합니다.
- 제3자 컴플라이언스 회사를 통해 독립적인 편견 감사를 준비해야 합니다. 매년 NYC 지역 법 144.
- 필요한 경우 감사 요약서를 공개합니다.
- 지원자에게 AI 검진에 대해 알리고 요청할 때 대체 절차를 제공해야 합니다.
- 결정에 인간의 감독이 포함되도록 해야 합니다. AI 점수에만 의존하지 마세요.
새로운 ATS 의사결정에서, 작성된 추론과 함께 결과에 기반한 시스템은 키워드 기반보다 구조적으로 더 쉽게 감사됩니다. Curriculo ATS는 이런 용도로 만들어졌습니다. 무료 계획 는 신용카드 없이 사용할 수 있습니다. 그래서 당신은 어떤 약속을 하기 전에 자신의 후보에 대한 AI 추론을 평가 할 수 있습니다.