التحيز الخوارزمي: لماذا تعيد الحواسيب تكرار الظلم البشري دون قصد؟

وهم الحياد التام: هل الآلات منصفة دائماً؟

يعتقد كثير من الناس خطأً أن قرارات الحواسيب عادلة بطبيعتها ومنزهة عن أي تمييز، لمجرد أن الأجهزة لا تشعر بالغضب ولا تحمل كراهية شخصية أو مصالح مسبقة. ولهذا السبب، تعتمد بعض البنوك والشركات الكبرى برامج ذكية لتقييم طلبات التوظيف أو الموافقة على القروض، ظناً منها أن الأرقام والمعادلات تضمن تكافؤ الفرص للجميع؛ فإذا رفض النظام الآلي طلب قرض أو استبعد متقدماً لوظيفة، يظن البعض أن هذا القرار يمثل حقيقة علمية مطلقة لا تحتمل النقاش.

لكن هذا الاعتقاد يغفل حقيقة بسيطة وجوهرية: برامج الذكاء الاصطناعي لا تفكر كقاضٍ عادل في محكمة، بل هي أدوات تقارن الأنماط في بيانات سابقة جمعها بشر على مدى سنوات طويلة. فإذا كانت السجلات القديمة تتضمن قرارات غير منصفة في ترقية الموظفين أو منح التمويل لبعض الأحياء دون غيرها، فإن الحاسوب يتعلم هذه العادات القديمة باعتبارها قواعد صحيحة، فيكرر أخطاء الماضي البشري بصورة آلية وسريعة، محولاً التمييز القديم إلى نظام رقمي صارم.

كيف يتسلل التمييز غير المقصود إلى الأنظمة الذكية؟

نادراً ما يحدث هذا التحيز بسبب نية سيئة لدى المبرمجين؛ بل يتسلل الخلل عبر ثغرات إحصائية شائعة في طريقة جمع المعلومات وتدريب الحواسيب:

• نقص تمثيل بعض الفئات في بيانات التدريب (تحيز أخذ العينات أو Sampling Bias): إذا دُرّبت برامج التعرف على الوجوه أو فحص الصوت على صور وتسجيلات تنتمي لفئة معينة من السكان فقط، فإنها ستعمل بكفاءة عالية لتلك الفئة، بينما تزيد أخطاؤها بشكل واضح عند التعامل مع وجوه أو لهجات الفئات الأخرى الأقل تمثيلاً في السجلات الأصلية.
• الاعتماد على مؤشرات غير مباشرة تكشف الفروق الاجتماعية (المتغيرات البديلة أو Proxy Variables): حتى لو حذفت الشركة خانة العرق أو الجنس أو العمر من استمارة التقديم لمنع التمييز، فإن النظام الذكي يكتشف مؤشرات أخرى بديلة تعبر عن نفس الفروق؛ مثل الرمز البريدي لمكان السكن، أو اسم المدرسة القديمة، أو نوع الهوايات.
• حلقات التأكيد الذاتي المغلقة (المعروفة بحلقات التغذية الراجعة أو Feedback Loops): إذا وجه نظام أمني دوريات مكثفة إلى حي معين بسبب بيانات قديمة، فسوف يسجل أفراد الشرطة هناك مخالفات صغيرة أكثر بالضرورة، فيأخذ الحاسوب هذه الأرقام الجديدة كدليل يثبت صحة توقعه، وتتضاعف الرقابة على ذلك الحي في دائرة مغلقة لا تنتهي.
• محاكاة أحكام المديرين السابقين (تأثير الحقيقة الميدانية أو Ground Truth): عندما نطلب من النظام تعلم كيفية اختيار أفضل الموظفين بناءً على قرارات الترقية والقبول السابقة لمديرين سابقين، فإنه يتعلم أذواق وتفضيلات أولئك المديرين بدلاً من قياس الكفاءة الحقيقية المجردة.

تظهر المقارنة العملية الملموسة في طريقة فرز السير الذاتية؛ فقد يتعمد مسؤول توظيف قديم استبعاد طلبات لأسباب شخصية واضحة. أما الأداة الآلية فتبدو محايدة، لكن عند تدريبها على أرشيف قديم لشركة تقنية سيطر عليها الرجال لعقود، اكتشف الباحثون أن النظام استبعد تلقائياً السير الذاتية التي تتضمن كلمات مثل 'نادي الشطرنج النسائي'، لأن الأرقام القديمة جعلت الحاسوب يعتقد أن الموظف الناجح يجب أن يكون رجلاً.

كيف نختبر البرمجيات ونضمن حق الاستئناف والعدالة؟

للتغلب على التحيز الخوارزمي، لا بد من التوقف عن افتراض عصمة الآلات، وتطبيق إجراءات رقابة وفحص مستمرة:

• اختبارات المقارنة العادلة بتغيير عنصر واحد (المعروفة بالاختبار الافتراضي المعاكس أو Counterfactual Testing): يختبر المهندسون النظام بإدخال ملفين متطابقين تماماً في المؤهلات والخبرات مع تغيير بند واحد فقط كاسم المتقدم أو جنسه، للتأكد من أن التقييم الآلي يمنح النتيجة العادلة ذاتها دون تفضيل.
• قياس الضرر غير المتكافئ على أي فئة (المعروف بتقييم الأثر المتباين أو Disparate Impact): إجراء فحوصات إحصائية مستقلة للتأكد من أن النتائج لا تضر بأي مجموعة مجتمعية بشكل غير متوازن.
• حق الاستئناف والمراجعة البشرية المستقلة: تنص القوانين الحديثة (مثل تشريعات الذكاء الاصطناعي) على حق أي شخص في معرفة أسباب القرار الآلي الصادر بشأنه، والمطالبة بإعادة فحصه بواسطة إنسان متخصص.
• موازنة بيانات التدريب وتحديثها: فحص الملفات القديمة بعناية وإصلاح النقص في تمثيل الفئات المختلفة قبل إطلاق الأنظمة للاستخدام الفعلي.

إن الحواسيب ليست حكماً منزهاً عن الهوى، بل هي مرايا تعكس ما نغذيه بها من بيانات وأرقام. وإدراكنا بأن المعادلات الرياضية قد تعيد إنتاج أخطاء الماضي هو الخطوة الأساسية للمطالبة بالشفافية والرقابة، لضمان بقاء التكنولوجيا وسيلة لخدمة العدالة وحماية كرامة الجميع.