ما الذي يتطلبه القانون في الواقع
NYC القانون المحلي 144 دخل حيز التنفيذ في يوليو 2023. ينطبق على أي صاحب عمل يستخدم أدوات اتخاذ قرارات توظيف آلية لفرز المرشحين للوظائف في NYC، بما في ذلك الأدوار عن بُعد المرتبطة بمكتب NYC. يتطلب القانون مراجعة تحيز سنوية من قبل مدقق مستقل (لا يمكن للموردين مراجعة أدواتهم الخاصة)، و الإفصاح العام عن نتائج المراجعة على موقع صاحب العمل على الإنترنت، و إخطار المرشحين بأن AI يتم استخدامه، و عملية بديلة للمرشحين الذين يطلبون واحدة. تفرض إدارة حماية المستهلك والعمال القانون، مع عقوبات مدنية تتراوح بين 500 و 1500 دولار عن كل مخالفة، في اليوم.
قانون EU AI، الذي تمت إتمامه في عام 2024 ، يصنف العمل AI "على الخطر" بموجب المرفق III. يجب أن تلبي أنظمة عالية المخاطر معايير الوثائق التقنية وتسمح بالشرف البشري المفيد وتحقيق معايير الدقة والثبات وتبليغ ممثلي العمال قبل الانتشار. تتحول التزاماتها الكاملة للأنظمة المرفقة III إلى نفاذية في 2 أغسطس 2026.
كلتا القوانين تمتلك شرطًا أساسيًا واحدًا: يجب أن يكون قرار AI قابلًا للتفسير ومراجعة. يجب أن تكون قادراً على القول، بالنسبة لأي مرشح محدد، لماذا تسجل AIهم بالطريقة التي فعلتها. هذه هي المعايير التي لا تستطيع معظم منصات ATS القديمة الوفاء بها.
لماذا ATS التراثية لا تزال تفشل في اختبار التفسير
معظم منصات ATS القديمة — Greenhouse, Lever, Workable, Ashby, Manatal — تستخدم بعض أشكال المقابلة القائمة على الكلمات الرئيسية تحت الغطاء. استخراج رموز بولية، تسجيل TF-IDF، تشابه معنوي مبني على التضمين. هذه الطرق هي بسيطة من الناحية الحسابية. كما أنه من الصعب مراجعتها باللغة الإنجليزية العادية. (
)إذا كان ATS يخبرك المرشح A حصل على 82 ورشح المرشح B 47، لا يمكن لأي نظام أن يخبرك باللغة البشرية لماذا. العقلية تعيش في متجهات النقاط العائمة وتطابقات الكلمات الرئيسية الموزنة. عندما يسأل المرشح "لماذا تم فحصي" لا يوجد إجابة دفاعية. عندما يسأل المحاسب "أرني منطق القرار لهذا الفئة المحمية"، يمكنك فقط أخذ عينات إحصائية.
ثلاثة أخطاء هيكلية تجعل التراث ATS هشاشة في مجال المراجعة:
- "
- " "" "مجموعة سوداء" رقم بدون رواية ليس تفسير لا يمكن للمرشح أن يطعن في ذلك، لا يمكن للمدبر أن يصدق عليه.
- تحيز التجول في الكلمات تعاقب Keyword match systematically على المرشحين الذين تستخدم سيرته الذاتية لغة مختلفة عن JD &mdash؛ والتي تتصل مع الخلفيات غير التقليدية والمجموعات التي لا تمثل بشكل جيد. ( )
- لا يوجد مسار مراجعة لكل قرار. معظم الأنظمة تسجل أن النتيجة قد أنتجت، وليس ما الدليل دفعها. هذه الفجوة هي قلب مشكلة الامتثال
ما تعلمناه في أمازون حول التصنيف الموضح
قبل تأسيس Curriculo ATS في عام 2024 ، قام مؤسسنا ديف ببناء أنظمة تصنيف في أمازون للبحث والتوصيات ؛ نفس فئة المشكلات مثل فحص الاستئناف. الدروس التي شكلت كيفية بناء Curriculo ATS جاءت من اتجاه البحوث التي تبعتها فرق توصيات أمازون سنوات قبل أن تصبح "AI يمكن تفسيرها" كلمة عبارة:
الإصلاح هو الهيكلي، وليس التجميل. كل نتيجة يجب أن تكون موازنة مع الفقرة المنطقية التي يمكن أن يقرأها الإنسان في ثواني ويتحقق من الأدلة الأساسية. بالنسبة للتوظيف، يذكر هذه الفقرة الإنجازات الكمية التي رأها النموذج، والإشارات ذات الصلة التجربة التي تراجعتها، ونموذج المسار الوظيفي الذي حددته، والأدلة على التوصل إلى المهارات التي وجدتها. يقول أيضاً ما كان مفقوداً مدير التوظيف الذي يقرأ الفقرة في عرض درجة التأثير يمكن أن يعكس مكالمة خاطئة في 10 ثواني. يمكن للمدقق الذي يقوم بمراجعة السكان التحقق من أن كل قرار اتخذ على إشارات مشروعة ذات صلة بالعمل ، وليس على وكلاء صفات محمية. هذه هي الهندسة المعمارية التي يتطلبها كل من قانون NYC المحلي 144 و EU قانون AI المرفق III في الواقع. معظم منصات ATS القديمة تضع AI فوق خط أنابيب الكلمات الرئيسية. لقد قمنا ببناء التفسير في النتيجة نفسها.
ما هو NYC قانون محلي الفعلي 144 تكاليف المراجعة و يحتوي على
يطرح مؤسسيسؤالين عندما يدركون أنهم بحاجة إلى مراجعة تحيزية: كم تكلفة ذلك، وما الذي ينظر إليه المراجح في الواقع. تُجري عمليات تدقيق التحيز المستقلة لـ AEDTs في NYC عادةً ما تتراوح بين 5000 و25000 دولار اعتماداً على تعقيد الأداة وحجم مجموعة البيانات المرشحة وما إذا كان المراجع بحاجة إلى استهلاك سجلات مخصصة من ATS القديمة.
يتناول التدقيق معدلات الانتقاء عبر الفئات المحمية (العرق والجنسية والجنس) في كل مرحلة حيث أثر AEDT في قرار: الفحص الأولي وتحديد الدرجات والانتقال إلى المقابلة. يحسب مدقق النفوذ معدلات التأثير ويرفع أي مجموعة يقل معدل انتقائها عن 80٪ من أعلى مجموعة محسوبة - المعيار المتمثل في "قاعدة الأرباع الأربعة" التي طبقتها EEOC على قرارات التوظيف منذ عام 1978.
يصبح تقرير المراجعة وثيقة عامة يجب على صاحب العمل أن ينشرها على موقعها الإلكتروني، مع إشعار المرشح قبل استخدام أي AEDT. لا تؤدي الفشل في عمليات التدقيق إلى إطلاق عقوبات تلقائيًا، ولكنها تلتزم صاحب العمل إما بتعويض الآثار المتباينة أو التوقف عن استخدام الأداة. معظم عمليات التدقيق المنشورة لعام 2024-2025 التي استعرضناها وجدت نسبة التأثير في النطاق المقبول قانوناً، ولكن مجموعة فرعية ذات مغزى أظهرت اختلافات قائمة على الجنس في فحص الدور الفني لم يلاحظها البائعون في QA الداخلي. (
)الإصلاح الهيكلي هو نفس ما يتطلبه التفسير: تسجيل كل قرار يسمح للمدبرين بعينة السكان وتتبع التأثير إلى مدخلات الدراسة المحددة. الأدوات التي تنتج فقط درجات إجمالية دون تقرير تقرير في كثير من الأحيان لا يمكن أن تكمل التحليل على الإطلاق، وهو في حد ذاته وضع فشل. (
)ما الذي يجب أن يفعله المؤسسون هذا الربع
إذا كنت تعتزم توظيف مرشحين NYC أو تتوقع توظيف مرشحين EU بعد أغسطس 2026 ، فاعمل على الامتثال كمشروع لمدة 90 يوما ، وليس كقطعة مراجعة سنوية. خمسة خطوات ملموسة:
- مخزون سطح AI الخاص بك. قم بإدراج كل أداة تنتج درجة المرشح أو تصنيف أو توصية: ATS، أدوات الموردة، منصات التقييم، ومقابلات AI. جميعها في نطاق ( )
- تحقق من التفسير بالنسبة لكل أداة، اسأل البائع: هل يمكنك أن تنتج، عند الطلب، تفسير يمكن قراءته من قبل الإنسان لماذا تم تسجيل مرشح معين بطريقة معينة؟ "إنه في الخوارزمية" ليس إجابة. ( )
- جدولة مراجعة التحيز. إذا كنت تستخدم AEDT في NYC, يتطلب القانون مراجعة سنوية من قبل مراقب مستقل. تكلفة المراجعة عادةً 5000 دولار و25000 دولار اعتماداً على تعقيد الأداة وحجم مجموعة البيانات. تمويلها.
- إضافة إشعار المرشحين والعملية البديلة. يمكن أن يكون الإشعار جملة واحدة على صفحة الطلب الخاص بك: "تستخدم هذه الدور أدوات آلية للمساعدة في المراجعة الأولية". العملية البديلة هي بريد إلكتروني الاتصال يمكن للمرشحين استخدامها لطلب مراجعة البشر فقط.
- توثيق دور الإنسان في الحلقة. يتوقع كلا القانونين إشرافًا إنسانيًا ذا معنى، وليس التأشير بالموافقة. احفظ اللحظة التي يقبل فيها مدير التوظيف أو يبطل كل توصية AI. Curriculo ATS يسجل هذا افتراضيًا؛ بالنسبة إلى الأنظمة ATS التقليدية، قد تحتاج إلى تثبيت هذا.