11 de abril de 2026
Desarrollador
Contratar a AI ya no es una frontera sin regular. La Ordenanza Local 144 de la Ciudad de Nueva York exige auditorías de sesgo independientes para las herramientas automatizadas de toma de decisiones de empleo. El EU AI Clasifica el empleo AI como de alto riesgo y exige transparencia, supervisión humana y auditabilidad. California, Illinois y Colorado han introducido legislación relacionada.
Las empresas que utilizan plataformas ATS heredadas están cada vez más expuestas. No porque AI en contratación sea inherentemente inseguro, sino porque la mayoría de las herramientas heredadas no fueron diseñadas para ser auditables.
Por qué la coincidencia de palabras clave falla en la normativa moderna
Cada legado ATS (Greenhouse, Lever, Workable, Ashby, Manatal) utiliza alguna forma de coincidencia basada en palabras clave en su núcleo. Extracción de tokens booleanos, puntuación TF-IDF o similitud semántica basada en incrustaciones. Los tres métodos comparten un problema fundamental: la decisión de es opaca.
Cuando un ATS basado en palabras clave te dice que un candidato obtuvo 72 y otro 58, el razonamiento reside en vectores de punto flotante y pesos de tokens. Los reclutadores no pueden explicar la diferencia en inglés sencillo. Los auditores solo pueden muestrearlo estadísticamente. No se puede informar a los candidatos sobre las razones de su rechazo.
¡La brecha de cumplimiento!La conformidad moderna espera explicabilidad. NYC La Ley Local 144 requiere notificación del empleador y procesos alternativos. La Ley EU AI establece requisitos de transparencia para el empleo de alto riesgo AI. Los filtros de palabras clave de caja negra no pueden cumplir con estos requisitos estructuralmente.
La vulnerabilidad adversarial
La coincidencia de palabras clave tiene un segundo problema de cumplimiento: es estructuralmente vulnerable al envenenamiento adversarial de currículums. Los candidatos que conocen las reglas del filtro inyectan palabras clave en texto blanco oculto, viñetas repetidas o secciones de habilidades falsas para manipular la puntuación. Esto sesga los resultados hacia candidatos que han aprendido el sistema, no hacia candidatos que han hecho el trabajo.
Cuando un análisis de clase protegida se ejecuta en un conjunto de candidatos envenenados por palabras clave, se obtienen resultados engañosos. El sistema parece justo porque todos tienen la misma oportunidad de manipularlo, pero los candidatos que triunfan son aquellos que lograron descifrar el juego. Esta es una injusticia diferente, más sutil.
Cómo el cumplimiento basado en resultados de AI cambia el panorama
La lectura de currículos AI basada en resultados se centra en resultados medibles en lugar de la presencia de palabras clave. El modelo de Curriculo evalúa cuatro categorías de señal:
RevenueImpact y generatedTeamsScope y orgsSystemsBuilt y scaledProblemsComplexity resueltosPara cada candidato, Curriculo ATS produce dos artefactos: una puntuación de ajuste de 0 a 100 y un párrafo de razonamiento escrito completo . El párrafo hace referencia explícitamente a qué resultados coincidieron con los requisitos del trabajo y en qué aspectos el candidato no cumplió.
Muestra: Candidato obtuvo 84 puntos. Una fuerte alineación en los sistemas de transmisión de señales: migración dirigida de la tubería de detección de fraude que maneja eventos de 2M/sec en producción. Alineación parcial del alcance del equipo: gestión de 3 informes directos durante 18 meses. No hay pruebas claras de impacto en los ingresos. Resumen carece de especificidad sobre el papel reciente, lo que limitó el puntaje.
Esta arquitectura satisface tres requisitos estructurales que la combinación de palabras clave de caja negra falla:
1. El Parlamento Europeo. Explicabilidad
Cada decisión tiene una explicación escrita. Los reclutadores pueden leerlo. Los auditores pueden probarlo. Se puede decir a los candidatos por qué fueron calificados de la manera en que fueron. Cuando la Ley Local 144 de NYC requiere que los candidatos sean informados sobre la selección de AI y se ofrezcan alternativas, el razonamiento escrito hace posible esa conversación.
2. El mismo. Auditibilidad
Una auditoría estadística de sesgos en un sistema basado en resultados puede examinar tanto las puntuaciones AND como el razonamiento. Los auditores pueden leer 100 párrafos de razonamiento en una población de clase protegida y verificar que el AI cite las mismas categorías de señales para cada grupo. Los prejuicios que aparecen como "varianza de puntuación inexplicable" en una auditoría basada en palabras clave se hacen visibles como "razón que hace referencia a diferentes señales para diferentes grupos" en una auditoría basada en resultados.
3. El mismo. Resistencia adversaria
Los vertederos ocultos de palabras clave de texto blanco añaden señal cero a los modelos basados en los resultados. Los candidatos que escriben descripciones específicas y precisas de sus resultados reales obtienen buenos resultados. Los candidatos que intentan jugar con el filtro no lo hacen. Esto reduce el tipo específico de injusticia que beneficia a los candidatos que aprendieron a jugar con los filtros ATS heredados.
Las leyes específicas que usted debe conocer
NYC Ley Local 144 (2023)
Se aplica a cualquier empleador que utilice herramientas automatizadas de decisión de empleo (AEDT) para examinar a los candidatos a puestos de trabajo en NYC. Requiere:
- Auditoría anual de sesgos por parte de un auditor independiente
- Divulgación pública del resumen de auditoría
- Notificación al candidato de que se está utilizando AI (mínimo 10 días hábiles antes del uso de AEDT)
- Procesos alternativos para los candidatos que los soliciten
Ejecución: NYC Departamento de Protección de los Consumidores y Trabajadores. Las multas comienzan en $500 por violación y escala.
Ley EU AI (2024)
Se aplica a cualquier sistema AI utilizado para las decisiones de contratación que afecten a los candidatos o empleadores de EU que operan en el EU. Clasifica el empleo AI como de alto riesgo, requiriendo:
- Sistemas de gestión de riesgos durante todo el ciclo de vida
- Datos de formación de alta calidad
- Transparencia y explicabilidad para los usuarios y las personas afectadas
- Supervisión humana de las decisiones
- Robustez, precisión y ciberseguridad
La aplicación: introducción gradual hasta 2025-2027. Las multas de hasta el 7% del volumen de negocios anual global o de 35 millones de euros, según sea mayor.
Sobre las solicitudes de certificación
No reclamamos certificaciones reguladoras específicas. El cumplimiento siempre requiere una auditoría independiente en el contexto de cada implementación, renovada anualmente. Lo que podemos decir es que la arquitectura está diseñada para pasar una auditoría en lugar de luchar contra una.
Cómo está diseñado Curriculo ATS para la auditabilidad
- Razonamiento escrito para cada puntaje. Cada puntuación de 0-100 corresponde con un párrafo en inglés claro explicándolo. Crea un rastro de auditoría por defecto.
- Categorías de señales basadas en los resultados. El modelo está capacitado para evaluar cuatro categorías estructuradas (ingresos, equipo, sistemas, problemas) en lugar de pesas de tokens arbitrarias. Los auditores pueden verificar que el modelo utiliza las señales esperadas.
- Supervisión humana incorporada. Curriculo ATS aumenta las decisiones de reclutamiento, no las reemplaza. Los reclutadores ven la puntuación y el razonamiento, y pueden anular ambos. El ATS nunca toma una decisión de contratación de forma autónoma.
- Apoyo a la notificación de candidatos. El razonamiento escrito puede ser compartido con los candidatos que se preguntan por qué fueron calificados de la manera en que fueron.
Lo que realmente deberías hacer
Si contratas en NYC, California, Illinois, Maryland, Colorado, o para candidatos a EU, necesitas un plan de cumplimiento de AI para contratar. Pasos principales:
- Inventa todas las herramientas de contratación con AI que utilices. La mayoría de las plataformas ATS utilizan alguna forma de puntuación automatizada.
- Organizar una auditoría independiente de sesgos a través de una empresa de cumplimiento de terceros. Anualmente para la NYC Ley Local 144.
- Publicar el resumen de la auditoría cuando sea necesario.
- Notificar a los candidatos sobre la detección de AI y proporcionar procesos alternativos cuando se solicite.
- Asegurar que la supervisión humana esté integrada en las decisiones. Nunca dependas únicamente de los puntajes AI para rechazar candidatos.
Para las nuevas decisiones de ATS, un sistema basado en resultados con razonamiento escrito es estructuralmente más fácil de auditar que un sistema basado en palabras clave. Curriculo ATS fue construido para esto. El plan gratuito está disponible sin tarjeta de crédito, por lo que puede evaluar el razonamiento AI en sus propios candidatos antes de hacer cualquier compromiso.