Lo que las leyes realmente exigen
La Ley Local 144 de NYC entró en vigor en julio de 2023. Se aplica a cualquier empleador que use herramientas de decisión de empleo automatizadas para seleccionar candidatos para trabajos en NYC, incluidas funciones remotas vinculadas a una oficina de NYC. La ley requiere una auditoría anual de sesgos por un auditor independiente (los proveedores no pueden auditar sus propias herramientas), divulgación pública de los resultados de la auditoría en el sitio web del empleador, notificación a los candidatos de que se está utilizando IA y un proceso alternativo para los candidatos que lo soliciten. El Departamento de Protección al Consumidor y al Trabajador la hace cumplir, con penas civiles de $500–$1,500 por violación, por día.
La Ley de IA de la UE, finalizada en 2024, clasifica la IA de empleo como "de alto riesgo" bajo el Anexo III. Los sistemas de alto riesgo deben cumplir con estándares de documentación técnica, habilitar supervisión humana significativa, lograr precisión y puntos de referencia de robustez, e informar a los representantes de los trabajadores antes de la implementación. Las obligaciones completas para los sistemas del Anexo III se harán exigibles el 2 de agosto de 2026.
Ambas leyes comparten un requisito central: la decisión de la IA debe ser explicable y auditable. Necesitas poder decir, para cualquier candidato específico, por qué la IA les otorgó esa puntuación. Ese es el estándar que la mayoría de las plataformas ATS heredadas no pueden cumplir.
Por qué las ATS heredadas siguen fallando en la prueba de explicabilidad
La mayoría de las plataformas ATS heredadas — Greenhouse, Lever, Workable, Ashby, Manatal — utilizan alguna forma de coincidencia basada en palabras clave en su funcionamiento interno. Extracción de tokens booleanos, puntuación TF-IDF, similitud semántica basada en incrustaciones. Estos métodos son computacionalmente sencillos. También son difíciles de auditar en inglés simple.
Si tu ATS te dice que el Candidato A obtuvo 82 y el Candidato B 47, ninguno de los sistemas puede decirte en lenguaje humano por qué. El razonamiento reside en vectores de punto flotante y coincidencias de palabras clave ponderadas. Cuando un candidato pregunta "¿por qué fui excluido?", no hay una respuesta defendible. Cuando un auditor pregunta "muéstrame la lógica de decisión para esta clase protegida", solo puedes muestrear estadísticamente.
Tres fallas estructurales hacen que las ATS heredadas sean frágiles a la auditoría:
- Puntuaciones de caja negra. Un número sin narrativa no es una explicación. El candidato no puede desafiarlo; el auditor no puede validarlo.
- Sesgo de deriva del vocabulario. La coincidencia de palabras clave penaliza sistemáticamente a los candidatos cuyos currículos utilizan un vocabulario diferente al del JD — lo que se correlaciona con antecedentes no tradicionales y grupos subrepresentados.
- Sin rastro de auditoría por decisión. La mayoría de los sistemas registran que se produjo una puntuación, no qué evidencia la impulsó. Esa brecha es el corazón del problema de cumplimiento.
Lo que aprendimos en Amazon sobre clasificación explicable
Antes de fundar Curriculo ATS en 2024, nuestro fundador Dev construyó sistemas de clasificación en Amazon para búsqueda y recomendaciones — la misma clase de problema que la selección de currículos. La lección que moldeó cómo construimos Curriculo ATS provino de una dirección de investigación que los equipos de recomendación de Amazon buscaron años antes de que "IA explicable" se convirtiera en una palabra de moda: un clasificador que no puede decirte por qué clasificó algo eventualmente clasificará mal, y no lo captarás.
La solución es estructural, no cosmética. Cada puntuación debe estar emparejada con un párrafo de razonamiento que un humano pueda leer en segundos y verificar contra la evidencia subyacente. Para la contratación, ese párrafo nombra los logros cuantificados que el modelo vio, las señales de relevancia de experiencia que ponderó, el patrón de trayectoria profesional que identificó y la evidencia de alineación de habilidades que encontró. También dice qué faltaba. Un gerente de contratación que lee el párrafo en nuestra vista de Puntuación de Impacto puede anular un mal juicio en 10 segundos. Un auditor que revisa una población puede verificar que cada decisión se tomó en señales legítimas relacionadas con el trabajo — no en proxies para atributos protegidos. Esa es la arquitectura que tanto la Ley Local 144 de NYC como el Anexo III de la Ley de IA de la UE realmente exigen. La mayoría de las plataformas de ATS heredadas añadieron IA encima de los pipelines de palabras clave. Nosotros incorporamos la explicabilidad en la puntuación misma.
Lo que cuesta y contiene una auditoría real de la Ley Local 144 de NYC
Los fundadores hacen dos preguntas cuando se dan cuenta de que necesitan una auditoría de sesgos: ¿cuánto cuesta y en qué mira el auditor? Las auditorías de sesgos independientes para AEDTs en NYC generalmente cuestan entre $5,000 y $25,000 dependiendo de la complejidad de la herramienta, el tamaño del conjunto de datos de candidatos y si el auditor necesita ingerir registros personalizados de un ATS heredado.
La auditoría examina las tasas de selección a través de categorías protegidas (raza, etnicidad, género) en cada etapa en la que el AEDT influyó en una decisión: selección inicial, puntuación, avance a entrevista. El auditor calcula ratios de impacto y señala cualquier grupo cuya tasa de selección caiga por debajo del 80% del grupo con mejor puntuación — la "regla de cuatro quintos" estándar que la EEOC ha aplicado a las decisiones de empleo desde 1978.
El informe de auditoría se convierte en un documento público que el empleador debe publicar en su sitio web, con aviso al candidato proporcionado antes de que se use cualquier AEDT. Las auditorías fallidas no activan automáticamente sanciones, pero obligan al empleador a remediar el impacto desproporcionado o dejar de usar la herramienta. La mayoría de las auditorías publicadas de 2024-2025 que hemos revisado encontraron ratios de impacto en el rango legalmente aceptable, pero un subconjunto significativo mostró disparidades de género en la selección de roles técnicos que los proveedores no detectaron en el control de calidad interno.
La solución estructural es la misma que la que requiere la explicabilidad: registro por decisión que permite al auditor muestrear poblaciones y rastrear el impacto a entradas de puntuación específicas. Las herramientas que producen solo puntuaciones agregadas sin razonamiento por decisión a menudo no pueden completar el análisis en absoluto, lo que es en sí mismo un modo de falla.
Lo que los fundadores deben hacer este trimestre
Si contratas candidatos de NYC o esperas contratar candidatos de la UE después de agosto de 2026, trata el cumplimiento como un proyecto de 90 días, no como un tema de revisión anual. Cinco pasos concretos:
- Inventariar su superficie de IA. Enumere cada herramienta que produzca una puntuación de candidato, clasificación o recomendación: ATS, herramientas de búsqueda, plataformas de evaluación, entrevistadores de IA. Todas ellas están dentro del alcance.
- Verificar la explicabilidad. Para cada herramienta, pregunte al proveedor: ¿puede producir, a pedido, una explicación legible por humanos de por qué un candidato específico fue puntuado de una manera específica? "Está en el algoritmo" no es una respuesta.
- Programar la auditoría de sesgo. Si utiliza AEDTs en Nueva York, la ley requiere una auditoría anual por un auditor independiente. El costo de la auditoría suele ser de $5,000 a $25,000 dependiendo de la complejidad de la herramienta y el tamaño del conjunto de datos. Presupuestelo.
- Agregar aviso al candidato y proceso alternativo. El aviso puede ser una sola frase en su página de solicitud: "Este rol utiliza herramientas automatizadas para ayudar con la revisión inicial." El proceso alternativo es un correo electrónico de contacto que los candidatos pueden usar para solicitar una revisión solo humana.
- Documentar la intervención humana. Ambas leyes esperan una supervisión humana significativa, no un simple visto bueno. Capture el momento en que un gerente de contratación acepta o anula cada recomendación de IA. Curriculo ATS registra esto por defecto; para ATS heredados, es posible que necesite integrarlo manualmente.