April 11, 2026
Dev
Contratar IA ya no es una frontera no regulada. La Ley Local 144 de la Ciudad de Nueva York requiere auditorías de sesgo independientes para herramientas automatizadas de decisión de empleo. La Ley de IA de la UE clasifica la IA de empleo como de alto riesgo y exige transparencia, supervisión humana y auditabilidad. California, Illinois y Colorado han introducido legislación relacionada.
Las empresas que utilizan plataformas ATS heredadas están cada vez más expuestas. No porque la IA en la contratación sea inherentemente insegura, sino porque la mayoría de las herramientas heredadas no fueron diseñadas para ser auditables.
Por qué el emparejamiento por palabras clave falla en el cumplimiento moderno
Cada ATS heredado (Greenhouse, Lever, Workable, Ashby, Manatal) utiliza algún tipo de emparejamiento basado en palabras clave. Extracción de tokens booleanos, puntuación TF-IDF o similitud semántica basada en embeddings. Los tres métodos comparten un problema fundamental: la decisión es opaca.
Cuando un ATS basado en palabras clave te dice que un candidato obtuvo 72 y otro 58, el razonamiento vive en vectores de punto flotante y pesos de tokens. Los reclutadores no pueden explicar la diferencia en inglés sencillo. Los auditores solo pueden muestrearlo estadísticamente. No se puede decir a los candidatos por qué fueron rechazados.
!La brecha de cumplimientoEl cumplimiento moderno espera explicabilidad. La Ley Local 144 de NYC requiere la notificación al empleador y procesos alternativos. La Ley de IA de la UE menciona requerimientos de transparencia para la IA de empleo de alto riesgo. Los filtros de palabras clave en caja negra no pueden cumplir estos requisitos estructuralmente.
La vulnerabilidad adversarial
El emparejamiento por palabras clave tiene un segundo problema de cumplimiento: es estructuralmente vulnerable a la contaminación de currículos adversariales. Los candidatos que conocen las reglas del filtro inyectan palabras clave en texto blanco oculto, puntos de viñeta repetidos o secciones de habilidades falsas para manipular la puntuación. Esto sesga los resultados hacia candidatos que han aprendido el sistema, no hacia los que realmente han hecho el trabajo.
Cuando un análisis de clase protegida se realiza sobre un grupo de candidatos contaminados por palabras clave, obtienes resultados engañosos. El sistema parece justo porque todos tienen la misma oportunidad de manipularlo, pero los candidatos que tienen éxito son los que descubrieron el juego. Esta es una injusticia diferente y más sutil.
Cómo la IA basada en resultados cambia el panorama del cumplimiento
La IA basada en resultados lee currículos para resultados medibles en lugar de la presencia de palabras clave. El modelo de Curriculo evalúa cuatro categorías de señales:
RevenueImpact y generatedTeamsScope y orgsSystemsBuilt y scaledProblemsComplexity solvedPara cada candidato, Curriculo ATS produce dos artefactos: una puntuación de ajuste de 0-100 y un párrafo de razonamiento escrito completo. El párrafo hace referencia explícita a qué resultados coincidieron con los requisitos del trabajo y en qué áreas el candidato no cumplió.
Muestra: “El candidato obtuvo 84. Fuerte alineación en la señal de ‘sistemas entregados’: lideró la migración de la canalización de detección de fraude manejando 2M eventos/seg en producción. Alineación parcial en ‘alcance del equipo’: gestionó 3 informes directos durante 18 meses. Sin evidencia clara de impacto en ingresos. El currículum carece de especificidad en el rol reciente, lo que limitó la puntuación.”
Esta arquitectura satisface tres requisitos estructurales que el emparejamiento por palabras clave en caja negra no cumple:
1. Explicabilidad
Cada decisión tiene una explicación escrita. Los reclutadores pueden leerla. Los auditores pueden muestrearla. Se puede decir a los candidatos por qué fueron puntuados de la manera en que lo fueron. Cuando la Ley Local 144 de NYC exige que se informe a los candidatos sobre la filtración de IA y se les ofrezcan alternativas, el razonamiento escrito hace posible esa conversación.
2. Auditabilidad
Una auditoría de sesgo estadístico en un sistema basado en resultados puede examinar tanto las puntuaciones COMO el razonamiento. Los auditores pueden leer 100 párrafos de razonamiento a través de una población de clase protegida y verificar que la IA esté citando las mismas categorías de señales para cada grupo. El sesgo que aparece como “varianza de puntuaciones inexplicadas” en una auditoría basada en palabras clave se vuelve visible como “razonamiento que referencia señales diferentes para diferentes grupos” en una auditoría basada en resultados.
3. Resistencia adversarial
Los volcamientos de palabras clave ocultas en texto blanco no añaden ninguna señal a los modelos basados en resultados. Los candidatos que escriben descripciones específicas y precisas de sus resultados reales obtienen buenas puntuaciones. Los candidatos que intentan manipular el filtro no lo hacen. Esto reduce el tipo específico de injusticia que beneficia a los candidatos que aprendieron a manipular los filtros ATS heredados.
Las leyes específicas que debes conocer
Ley Local 144 de NYC (2023)
Se aplica a cualquier empleador que utilice herramientas automatizadas de decisión de empleo (AEDTs) para filtrar candidatos para trabajos en NYC. Requiere:
- Auditorías anuales de sesgo por un auditor independiente
- Divulgación pública del resumen de la auditoría
- Notificación a los candidatos de que se está utilizando IA (mínimo 10 días hábiles antes del uso de AEDT)
- Procesos alternativos para candidatos que los soliciten
Aplicación: Departamento de Protección del Consumidor y del Trabajador de NYC. Las multas comienzan en $500 por violación y escalan.
Ley de IA de la UE (2024)
Se aplica a cualquier sistema de IA utilizado para decisiones de contratación que afecten a candidatos de la UE o empleadores que operan en la UE. Clasifica la IA de empleo como de alto riesgo, requiriendo:
- Sistemas de gestión de riesgos a lo largo del ciclo de vida
- Datos de capacitación de alta calidad
- Transparencia y explicabilidad para usuarios y personas afectadas
- Supervisión humana de las decisiones
- Robustez, precisión y ciberseguridad
Aplicación: introducción progresiva de 2025 a 2027. Multas de hasta el 7% de la facturación global anual o €35 millones, lo que sea mayor.
Sobre las afirmaciones de certificación
No reclamamos certificaciones regulatorias específicas. El cumplimiento siempre requiere una auditoría independiente en el contexto de cada implementación, renovada anualmente. Lo que podemos decir es que la arquitectura está diseñada para superar una auditoría en lugar de pelear contra una.
Cómo Curriculo ATS está diseñado para auditabilidad
- Razonamiento escrito para cada puntuación. Cada puntuación de ajuste de 0-100 viene con un párrafo en inglés sencillo que lo explica. Crea un registro de auditoría por defecto.
- Categorías de señales basadas en resultados. El modelo está entrenado para evaluar cuatro categorías estructuradas (ingresos, equipo, sistemas, problemas) en lugar de pesos de token arbitrarios. Los auditores pueden verificar que el modelo está utilizando señales esperadas.
- Supervisión humana incorporada. Curriculo ATS aumenta las decisiones de los reclutadores, no las reemplaza. Los reclutadores ven la puntuación y el razonamiento, y pueden anular cualquiera de los dos. El ATS nunca toma una decisión de contratación de forma autónoma.
- Soporte de notificación para candidatos. El razonamiento escrito puede ser compartido con los candidatos que pregunte por qué obtuvieron esa puntuación.
Lo que realmente deberías hacer
Si contratas en NYC, California, Illinois, Maryland, Colorado, o para candidatos de la UE, necesitas un plan de cumplimiento de IA en contratación. Pasos básicos:
- Inventariar todas las herramientas de contratación habilitadas para IA que utilizas. La mayoría de las plataformas ATS utilizan alguna forma de puntuación automática.
- Organizar una auditoría de sesgo independiente a través de una firma de cumplimiento externa. Anualmente para la Ley Local 144 de NYC.
- Publicar el resumen de la auditoría donde se requiera.
- Notificar a los candidatos sobre la evaluación por IA y proporcionar procesos alternativos cuando se soliciten.
- Asegurar que la supervisión humana esté incorporada en las decisiones. Nunca confiar únicamente en las puntuaciones de IA para rechazar candidatos.
Para nuevas decisiones de ATS, un sistema basado en resultados con razonamiento escrito es estructuralmente más fácil de auditar que uno basado en palabras clave. Curriculo ATS fue construido para esto. El plan gratuito está disponible sin tarjeta de crédito, para que puedas evaluar el razonamiento de IA en tus propios candidatos antes de hacer cualquier compromiso.