من المرجح أن يشكل الذكاء الاصطناعي تحيزات عند التوظيف أكثر من البشر

كانت النماذج أكثر عرضة لتصوير الأشخاص حسب المجموعة الديموغرافية أكثر من المشاركين البشريين في الدراسة الأصلية. على مقياس الفصل في الدراسة، حيث 2 تعني أن كل مجموعة كانت محصورة تمامًا في مجال عملها الخاص، سجل المشاركون البشريون 0.84. سجلت النماذج أعلى بنسبة 65% تقريبًا، حيث سجل نموذج الاستدلال الخاص بـ OpenAI o3 1.83، وهو قريب من الحد الأقصى الممكن.

وذلك لأن طلاب ماجستير إدارة الأعمال “حريصون حقًا على إنشاء تعميمات من بيانات محدودة”، كما يقول ريان ليو، طالب دكتوراه في جامعة برينستون ومؤلف مشارك في الدراسة التي نُشرت في ورقة بحثية في ICML في سيول في يوليو. “هذا حرفيًا الكثير مما تم تحسينه من أجله.” يواجه كل صانع قرار، سواء كان إنسانًا أو آلة، مقايضة بين التمسك بما نجح من قبل وتجربة شيء جديد قد يعمل بشكل أفضل – وهي ظاهرة يطلق عليها علماء النفس “معضلة الاستكشاف والاستغلال”. إنه مثل الاختيار بين مطعم جديد ومطعمك المفضل الموثوق به.

نظرًا لأن طلاب الماجستير في القانون مدربون على مسائل الرياضيات والبرمجة والعلوم – وهي المهام التي تكافئ التعميم من خلال أمثلة قليلة فقط – فيمكنهم الاستقرار في وقت مبكر جدًا. ونفس الغريزة التي تساعد حاملي شهادة الماجستير في القانون على حل الألغاز المنطقية تجعلهم سريعين في اتخاذ الصور النمطية. وفي التجربة، أظهرت النماذج الأحدث التي تتمتع بقدرات تفكير أعلى، مثل OpenAI’s o3 وDeepSeek’s R1، تحيزات أقوى. يقول ليو إنه عندما يسارع حاملو شهادة الماجستير في القانون إلى التعميم في البيئات الاجتماعية، “فعندها تميل الأمور إلى أن تسوء”. ولم تستجب OpenAI وAnthropic لطلبات التعليق.

تقول أنجلينا وانج، عالمة الكمبيوتر في جامعة كورنيل، التي لم تشارك في الدراسة، إن هذا الاكتشاف له أهمية خاصة الآن حيث تكتسب روبوتات الدردشة ميزات محسنة للذاكرة والتخصيص. وتقول إنه عندما يعتمد برنامج الدردشة الآلية على تاريخ المحادثة السابقة، فيمكنه “الإفراط في فهرسة نفس أنواع السلوكيات التي مر بها من قبل” وتشكيل التحيزات. ومع ذلك، فإن مجرد جعل روبوتات الدردشة تتذكر بشكل أقل لا يعد حلاً، لأن المستخدمين يريدون أن تتذكر روبوتات الدردشة ما يقولونه. يقول وانج: “ما زلنا نحاول معرفة الكمية المناسبة التي لا تكون كثيرة جدًا أو قليلة جدًا”.

إن إخبار النموذج بأن يكون عادلاً لم يغير سلوكه كثيرًا. يقول ليو: “إما أنها لا تستطيع وضع هذه القيم موضع التنفيذ أو أن هذه العملية غارقة في الميل إلى محاولة تحسين هدف الحصول على التعيينات الصحيحة”. لكن وعد العارضات بمكافأة إضافية مقابل التوظيف المتنوع جعلهن أقل تحيزاً بكثير. تكمن الحيلة إذن في تصميم أهداف “تتضمن قيمًا اجتماعية مرغوبة من أجل جعل نموذج اللغة الكبير يعمل بطرق مرغوبة اجتماعيًا”، كما يقول ليو.