11 avril 2026
Développeur
L'embauche de AI n'est plus une frontière non réglementée. La loi locale 144 de la ville de New York exige des audits indépendants de biais pour les outils automatisés de décision d'emploi. La loi EU AI classifie l'emploi AI comme étant à haut risque et exige la transparence, la surveillance humaine et la vérifiabilité. La Californie, l'Illinois et le Colorado ont tous introduit des lois connexes.
Les entreprises utilisant des plateformes ATS obsolètes sont de plus en plus exposées. Non pas parce que AI dans le recrutement est inhérentement dangereux, mais parce que la plupart des outils obsolètes n’ont pas été conçus pour être auditable.
Pourquoi le partage de mots clés échoue à la conformité moderne
Chaque héritage ATS (Greenhouse, Lever, Workable, Ashby, Manatal) utilise une forme de correspondance basée sur des mots clés sous le capot. Extraction de jetons booléens, notation TF-IDF, ou similitude sémantique basée sur l'intégration. Les trois méthodes partagent un problème fondamental: la décision est opaque.
Quand un ATS basé sur des mots clés vous dit qu'un candidat a obtenu 72 et un autre 58 points, le raisonnement vit dans des vecteurs de points flottants et des poids de jetons. Les recruteurs ne peuvent pas expliquer la différence en anglais simple. Les auditeurs ne peuvent en faire un échantillon que statistiquement. Les candidats ne peuvent pas être expliqués pourquoi ils ont été rejetés.
Le manque de conformité !La conformité moderne s'attend à une explication. NYC La loi locale 144 exige la notification de l'employeur et des processus alternatifs. La loi EU AI établit des exigences de transparence pour l'emploi à haut risque AI. Les filtres de mots clés de boîte noire ne peuvent pas répondre structurellement à ces exigences.
La vulnérabilité à l'adversité
Le partage de mots clés présente un deuxième problème de conformité: il est structurellement vulnérable à l'empoisonnement de la résumé. Les candidats qui connaissent les règles du filtre injectent des mots clés dans du texte blanc caché, des points de balles répétés ou des faux compétences pour jouer le score. Ce biais donne des résultats aux candidats qui ont appris le système, pas aux candidats qui ont fait le travail.
Quand une analyse de classe protégée est effectuée sur un pool de candidats empoisonné par des mots clés, vous obtenez des résultats trompeurs. Le système semble juste parce que tout le monde a la même chance de jouer, mais les candidats qui réussissent sont ceux qui ont trouvé le jeu. C'est une injustice différente et plus subtile.
Comment AI modifie le tableau de conformité
en fonction des résultatsAI est basé sur les résultats et lit les CV pour des résultats mesurables plutôt que la présence de mots clés. Le modèle Curriculos évalue quatre catégories de signaux:
RevenueImpact et generatedTeamsScope et orgsSystemsBuilt et scaledProblemsComplexity résolusPour chaque candidat, Curriculo ATS produit deux objets: un score de correspondance de 0 à 100 et un paragraphe de raisonnement écrit complet. Le paragraphe fait explicitement référence aux résultats qui correspondent aux exigences de l'emploi et aux situations où le candidat n'a pas obtenu de résultats.
échantillon: Candidat obtenu 84 points. L'alignement fort sur le signal systèmes expédiés: migration guidée du pipeline de détection de fraude traitant 2M d'événements/seconde en production. L'alignement partiel sur le champ d'application de l'équipe: gestion de 3 rapports directs pendant 18 mois. Aucune preuve claire de l'impact sur les recettes. Le CV manque de spécificité sur le rôle récent, ce qui a limité le score.
Cette architecture répond à trois exigences structurelles que la correspondance des mots clés de boîte noire échoue:
1. Expliquabilité
Chaque décision a une explication écrite. Les recruteurs peuvent le lire. Les vérificateurs peuvent en faire un échantillon. Les candidats peuvent être informés de la raison pour laquelle ils ont été notés comme ils l'étaient. Lorsque la loi locale 144 du NYC exige que les candidats soient informés du dépistage du AI et qu'on leur offre des alternatives, le raisonnement écrit rend cette conversation possible.
2. La vérifiabilité
Une vérification statistique de l'incidence sur un système basé sur les résultats peut examiner les deux scores AND le raisonnement. Les auditeurs peuvent lire 100 paragraphes de raisonnement dans une population de classe protégée et vérifier que le AI cite les mêmes catégories de signaux pour chaque groupe. Les biais qui apparaissent comme une variance de score inexpliquée dans un audit basé sur des mots clés deviennent visibles comme un raisonnement qui fait référence à des signaux différents pour différents groupes dans un audit basé sur les résultats.
3. Résistance à l'adversité
Les dépôts cachés de mots clés en texte blanc ajoutent un signal zéro aux modèles basés sur les résultats. Les candidats qui écrivent des descriptions précises et précises de leurs résultats réels obtiennent de bons résultats. Les candidats qui essaient de jouer le filtre ne le font pas. Cela réduit le type spécifique d'injustice qui profite aux candidats qui ont appris à utiliser les filtres ATS anciens.
Les lois spécifiques que vous devriez connaître
NYC Loi locale 144 (2023)
S'applique à tout employeur qui utilise des outils de décision automatisée sur l'emploi (AEDT) pour dépister les candidats à des emplois NYC. Réservations:
- Audits annuels de biais effectués par un vérificateur indépendant
- Divulgation publique du résumé de l'audit
- Notification du candidat que AI est utilisé (minimum 10 jours ouvrables avant l'utilisation de AEDT)
- Procédures alternatives pour les candidats qui les demandent
Enforcement: NYC Département de la protection des consommateurs et des travailleurs. Les amendes commencent à 500 $ par violation et échelle.
EU AI Loi (2024)
S'applique à tout AI système utilisé pour les décisions de recrutement ayant un impact sur les EU candidats ou les employeurs opérant dans le EU. Classe les offres d'emploi AI comme des postes à risque élevé, nécessitant :
- Systèmes de gestion des risques tout au long du cycle de vie
- Données de formation de haute qualité
- Transparence et explication pour les utilisateurs et les personnes concernées
- Surveillance humaine des décisions
- Robustesse, précision et cybersécurité
mise en œuvre: mise en œuvre progressive jusqu'en 2025-2027. Amendes pouvant atteindre 7% du chiffre d'affaires annuel mondial ou 35 millions d'euros, selon le montant le plus élevé.
Sur les demandes de certification
Nous ne revendiquons pas de certifications réglementaires spécifiques. La conformité exige toujours un audit indépendant dans le cadre de chaque déploiement, renouvelé annuellement. Ce que nous pouvons dire, c'est que l'architecture est conçue pour réussir un audit plutôt que de le combattre.
Comment Curriculo ATS est conçu pour une vérifiabilité
- Réflexion écrite pour chaque score. Chaque score de 0 à 100 correspond à un paragraphe en anglais simple qui l'explique. Crée une piste d'audit par défaut.
- Catégories de signaux basées sur les résultats. Le modèle est formé pour évaluer quatre catégories structurées (revenus, équipe, systèmes, problèmes) plutôt que des poids de jetons arbitraires. Les auditeurs peuvent vérifier que le modèle utilise les signaux attendus.
- Surveillance humaine intégrée. Curriculo ATS augmente les décisions des recruteurs, pas les remplace. Les recruteurs voient le score et le raisonnement, et peuvent annuler les deux. Le ATS ne prend jamais de décision d'embauche de manière autonome.
- Appui à la notification des candidats. Le raisonnement écrit peut être partagé avec les candidats qui se demandent pourquoi ils ont obtenu des points comme ils l'ont été.
Ce que vous devriez faire
Si vous embauchez dans NYC, Californie, Illinois, Maryland, Colorado ou pour les candidats à la EU, vous avez besoin d'un plan de conformité AI-en-embauche. Pas de base:
- Inventaire tous les outils de recrutement AI que vous utilisez. La plupart des plateformes ATS utilisent une forme de notation automatisée.
- Organiser un audit indépendant de la partialité par l'intermédiaire d'une société tierce de conformité. Chaque année pour la NYC Loi locale 144.
- Publier le résumé de l'audit, le cas échéant.
- Notifier les candidats au dépistage de AI et fournir des processus alternatifs sur demande.
- Assurer que la surveillance humaine est intégrée dans les décisions. Ne jamais compter uniquement sur les scores AI pour rejeter les candidats.
Pour les nouvelles décisions ATS, un système basé sur les résultats avec un raisonnement écrit est structurellement plus facile à vérifier qu'un système basé sur des mots clés. Curriculo ATS a été construit pour cela. Le plan gratuit est disponible sans carte de crédit, vous pouvez donc évaluer le raisonnement AI sur vos propres candidats avant de prendre un engagement.