le 11 avril 2026
Développeur
L'embauche de AI n'est plus une frontière non réglementée. La loi locale 144 de la ville de New York exige des vérifications indépendantes des préjugés en ce qui concerne les outils automatisés de décision en matière d'emploi. La loi EU AI classe l'emploi AI comme un emploi à risque élevé et exige la transparence, la surveillance humaine et la vérification. La Californie, l'Illinois et le Colorado ont tous introduit des lois connexes.
Les entreprises utilisant les plates-formes ATS existantes sont de plus en plus exposées. Non pas parce que AI dans l'embauche est intrinsèquement dangereux, mais parce que la plupart des outils hérités n'étaient pas conçus pour être auditables.
Pourquoi la correspondance des mots clés échoue la conformité moderne
Chaque ATS legs (Greenhouse, Lever, Workable, Ashby, Manatal) utilise une certaine forme de correspondance par mot-clé sous le capot. Extraction booléenne de jetons, notation TF-IDF ou similarité sémantique fondée sur l'intégration. Les trois méthodes partagent un problème fondamental : la décision est opaque.
Lorsqu'un ATS basé sur un mot-clé vous indique qu'un candidat a marqué 72 et un autre a marqué 58, le raisonnement vit dans des vecteurs flottants et des poids symboliques. Les recruteurs ne peuvent pas expliquer la différence en anglais simple. Les vérificateurs ne peuvent échantillonner que de façon statistique. On ne peut pas dire aux candidats pourquoi ils ont été rejetés.
!L'écart de conformitéLa conformité moderne s'attend à ce que l'on puisse l'expliquer. NYC La loi locale 144 exige l'avis de l'employeur et des procédures alternatives. La loi EU AI prévoit des exigences de transparence pour les emplois à haut risque AI. Les filtres à mots clés Black-box ne répondent pas structurellement à ces exigences.
La vulnérabilité contradictoire
La correspondance des mots clés a un deuxième problème de conformité : elle est structurellement vulnérable à l'empoisonnement de reprise adversaire. Les candidats qui connaissent les règles du filtre injectent des mots-clés dans un texte blanc caché, des points de balle répétés ou de fausses sections de compétences pour jouer le score. Cela tend à biaiser les résultats à l'égard des candidats qui ont appris le système, et non des candidats qui ont fait le travail.
Quand une analyse de classe protégée fonctionne sur un bassin de candidats empoisonnés par mot-clé, vous obtenez des résultats trompeurs. Le système semble juste parce que tout le monde a la même occasion de jouer, mais les candidats qui réussissent sont ceux qui ont compris le jeu. C'est une injustice différente, plus subtile.
Comment le AI axé sur les résultats modifie l'image de conformité
AI est basé sur les résultats et lit des curriculum vitae pour des résultats mesurables plutôt que pour la présence de mots clés. Le modèle CurriculoS évalue quatre catégories de signaux:
RevenueImpact et generatedTeamsScope et orgsSystemsBuilt et scaledProblemsComplexity résolusPour chaque candidat, Curriculo ATS produit deux artefacts : un score 0-100 et un paragraphe de raisonnement complet écrit. Le paragraphe fait explicitement référence aux résultats qui correspondaient aux exigences du poste et où le candidat est resté en deçà.
Échantillon : -Candidate marqué 84. Un alignement fort sur les «systèmes expédiés» signal: migration dirigée de la détection de la fraude pipeline de traitement des événements 2M/sec dans la production. Alignement partiel sur la «portée de l'équipe»: gestion de 3 rapports directs pendant 18 mois. Aucune preuve claire de l'incidence des recettes. Reprendre manque de spécificité sur le rôle récent, ce qui a limité la note.
Cette architecture répond à trois exigences structurelles que la correspondance des mots-clés de la boîte noire échoue:
1. Explicabilité
Chaque décision a une explication écrite. Les recruteurs peuvent le lire. Les auditeurs peuvent l'échantillonner. On peut dire aux candidats pourquoi ils ont été notés comme ils l'étaient. Lorsque la loi locale 144 du NYC exige que les candidats soient informés de la présélection du AI et qu'ils offrent des solutions de rechange, le raisonnement écrit rend cette conversation possible.
2. Vérification
Une vérification statistique biaisée sur un système basé sur les résultats peut examiner les deux scores AND le raisonnement. Les vérificateurs peuvent lire 100 paragraphes de raisonnement dans une population de classes protégées et vérifier que le AI cite les mêmes catégories de signaux pour chaque groupe. Un parti pris qui apparaît comme la variance de la note non expliquée dans une vérification basée sur des mots clés devient visible comme la raison qui fait référence à différents signaux pour différents groupes dans une vérification basée sur des résultats.
3. Résistance à l'adversaire
Les dumps de mots-clés cachés en texte blanc ajoutent zéro signal aux modèles basés sur les résultats. Les candidats qui rédigent des descriptions précises et précises de leurs résultats réels obtiennent une bonne note. Les candidats qui essaient de jouer au filtre don=t. Cela réduit le type spécifique d'injustice qui profite aux candidats qui ont appris à jouer les filtres ATS hérités.
Les lois spécifiques que vous devriez connaître
NYC Loi locale 144 (2023)
S'applique à tout employeur qui utilise des outils automatisés de décision d'emploi (AEDT) pour sélectionner les candidats aux postes NYC. Nécessite:
- Audits annuels de partialité par un vérificateur indépendant
- Communication publique du résumé de l'audit
- Notification du candidat que AI est utilisé (minimum 10 jours ouvrables avant l'utilisation de AEDT)
- Autres processus pour les candidats qui en font la demande
Application: NYC Département de la protection des consommateurs et des travailleurs. Les amendes commencent à 500 $ par infraction et par échelle.
EU Loi AI (2024)
S'applique à tout système AI utilisé pour les décisions d'embauche concernant les candidats ou employeurs EU opérant dans le EU. Classe l'emploi AI comme à haut risque, ce qui exige :
- Systèmes de gestion des risques tout au long du cycle de vie
- Données de formation de haute qualité
- Transparence et imputabilité pour les utilisateurs et les personnes touchées
- Contrôle humain des décisions
- Robustesse, précision et cybersécurité
Application de la loi : introduction progressive jusqu'en 2025-2027. Amende jusqu'à 7% du chiffre d'affaires annuel global ou 35 millions d'euros, le montant le plus élevé étant retenu.
Sur les demandes de certification
Nous ne revendiquons pas des certifications réglementaires spécifiques. La conformité exige toujours une vérification indépendante dans le contexte de chaque déploiement, renouvelée chaque année. Ce que nous pouvons dire, c'est que l'architecture est conçue pour passer un audit plutôt que de le combattre.
Comment Curriculo ATS est conçu pour la vérification
- Raisonnement écrit pour chaque score. Chaque score 0-100 correspond à un paragraphe en anglais simple qui l'explique. Crée une piste d'audit par défaut.
- Catégories de signaux fondées sur les résultats. Le modèle est formé pour évaluer quatre catégories structurées (revenu, équipe, systèmes, problèmes) plutôt que des poids de jeton arbitraires. Les vérificateurs peuvent vérifier que le modèle utilise les signaux attendus.
- Contrôle humain intégré. Curriculo ATS augmente les décisions des recruteurs, pas les remplace. Les recruteurs voient le score et le raisonnement, et peuvent l'emporter sur l'un ou l'autre. Le ATS ne prend jamais de décision d'embauche de manière autonome.
- Soutien à la notification des candidats. Le raisonnement écrit peut être partagé avec les candidats qui demandent pourquoi ils ont été notés comme ils l'étaient.
Ce que tu devrais faire en fait
Si vous embauchez à NYC, Californie, Illinois, Maryland, Colorado, ou pour des candidats EU, vous avez besoin d'un plan de conformité AI-in-hiring. Étapes principales:
- Inventoriez chaque outil de recrutement compatible AI que vous utilisez. La plupart des plateformes ATS utilisent une forme de notation automatisée.
- Organiser une vérification indépendante des préjugés par l'entremise d'un cabinet de conformité tiers. Annuellement pour NYC Loi Locale 144.
- Publier le résumé de la vérification au besoin.
- Informer les candidats de la présélection de AI et fournir des processus de rechange sur demande.
- Veiller à ce que la surveillance humaine soit intégrée dans les décisions. Ne jamais se fier uniquement aux notes de AI pour rejeter les candidats.
Dans le cas des nouvelles décisions ATS, un système basé sur les résultats et le raisonnement écrit est structurellement plus facile à vérifier qu'un système fondé sur des mots clés. Curriculo ATS a été construit pour cela. Le plan gratuit est disponible sans carte de crédit, vous pouvez donc évaluer le raisonnement AI sur vos propres candidats avant de prendre un engagement.