التحيز الخوارزمي: لماذا تعيد الحواسيب تكرار الظلم البشري دون قصد؟

لماذا لا تكون القرارات الرياضية محايدة دائماً كما نتوقع

من السهل أن نقع في فخ الاعتقاد بأن الحواسيب محايدة تماماً ولا تعرف التفرقة أو الهوى الشخصي؛ فالآلة لا تملك قلباً يميل مع العاطفة، ولا مصالح ذاتية تسعى لتحقيقها، بل تتعامل مع أرقام ومعادلات جافة. لذلك، عندما تُسند مهمة فرز طلبات التوظيف أو تقييم طلبات القروض المصرفية إلى برنامج حاسوبي، يظن كثيرون أن النتيجة ستكون بالضرورة عنواناً للعدالة المطلقة والإنصاف التام.

لكن الواقع يكشف لنا درساً عميقاً: فالذكاء الاصطناعي ليس كائناً هبط من كوكب آخر، بل هو مرآة تعكس ماضينا البشري بكل ما فيه من إشراق وعثرات. إذا كان التاريخ الذي يتعلم منه الحاسوب يحتوي على قرارات سابقة استبعدت فئة معينة أو فضلت مجموعة على أخرى، فإن البرنامج سيفترض ببساطة أن تلك التفرقة هي القاعدة الرياضية الصحيحة التي يجب عليه تطبيقها بدقة على كل من يتقدم مستقبلاً.

لجنة التوظيف التقليدية وأرشيف الثلاثين عاماً

لتجسيد هذه المشكلة بوضوح، تخيل شركة تجارية عريقة تقرر تعيين موظفين جدد، وتشكل لجنة توظيف مكونة من أعضاء تقليديين يقررون مراجعة سجلات الشركة على مدى الثلاثين عاماً الماضية لاختيار أفضل المتقدمين.

في تلك العقود القديمة، كان معظم من تم تعيينهم وترقيتهم إلى المناصب القيادية من خريجي جامعتين محددتين ومن منطقة جغرافية واحدة، بينما استُبعد المتقدمون القادمون من مناطق ريفية أو خلفيات مختلفة لأسباب اجتماعية سائدة آنذاك. تفحص اللجنة هذا الأرشيف التاريخي وتستنتج قاعدة شكلية: 'المرشح الناجح في شركتنا هو من يشبه مديرينا السابقين في الخلفية واسم الجامعة'. وحين يتقدم مهندس نابغ من جامعة حديثة، ترفض اللجنة طلبه فوراً ليس لقلة كفاءته، بل لأنه لا يطابق النموذج التاريخي المخزن في أدراجها القديمة.

هذا هو حال الخوارزميات المتحيزة بالضبط. تدرس آلاف السجلات السابقة، فإذا وجدت أن طلبات القروض كانت تُرفض لسكان أحياء معينة في الماضي، تتعلم الآلة أن ترفض تلقائياً أي طلب جديد يرد من تلك الأحياء اليوم. الآلة لا تكره أحداً، لكنها ورثت عيوب الماضي وأعادت إنتاجها بضغطة زر واحدة تحت ستار من الحياد الحسابي المضلل.

أين يؤثر التحيز الخوارزمي في حياة الناس اليوم

لا يقف هذا الخلل عند حدود النظريات، بل يمس فرصاً حياتية بالغة الأهمية لملايين الأسر في مختلف مناحي الحياة:

• فرز طلبات التوظيف الإلكترونية: قد تستبعد برمجيات فرز السير الذاتية طلبات النساء أو أصحاب الأسماء ذات الخلفيات المتنوعة إذا كانت السجلات القديمة للمؤسسة تفضل فئات أخرى في المناصب التقنية.
• تقييم الجدارة الائتمانية والقروض: تميل أنظمة التمويل في بعض المصارف إلى خفض درجات الثقة الائتمانية للمتقدمين من مناطق معينة، مما يحرم الشباب من تأسيس مشروعاتهم رغم كفاءتهم المالية.
• دقة التشخيص وكاميرات الفحص الطبي: أظهرت الدراسات أن بعض خوارزميات رصد أمراض الجلد أقل دقة عند فحص أصحاب البشرة الداكنة لأنها دُربت في البداية على صور غالبها من أصحاب البشرة الفاتحة.
• أنظمة التنبؤ الأمني وقضايا العدالة: تعتمد بعض برامج التقدير الجنائي على سجلات بلاغات قديمة مكثفة في مناطق فقيرة، مما يؤدي إلى زيادة الرقابة على سكانها وإدامة دائرة التوجس تجاههم دون ذنب.

ما يعنيه ذلك لحقوقك وكيف تدافع عن العدالة الرقمية

إن رفض القرارات الآلية الظالمة حق أصيل لكل مواطن. الوعي بوجود هذا التحيز يمنحك القوة لمساءلة الأنظمة وعدم الرضوخ للأحكام المؤتمتة العمياء:

• اطلب دائماً مراجعة بشرية مستقلة: إذا رُفض طلبك للحصول على وظيفة أو معاملة مصرفية من قِبل نظام مؤتمت، من حقك التمسك بطلب مراجعة بشرية مفصلة من مسؤول مختص للنظر في مؤهلاتك الحقيقية.
• طالب بالشفافية في الخدمات الحكومية: شجع المبادرات والسياسات التي تلزم المؤسسات العامة بفحص خوارزمياتها بشكل دوري والتأكد من خلوها من الانحياز ضد أي شريحة في المجتمع.
• ادعم تنوع فرق العمل التقنية: إن البرمجيات العادلة يصنعها مهندسون يمثلون كل أطياف المجتمع؛ فالتنوع في غرف التصميم هو أفضل حماية ضد العمى الفكري والتحيز الرقمي.

إن الحسابات الرياضية وسيلة ممتازة لتسريع العمليات، لكنها لا تملك بوصلة أخلاقية بذاتها. العدالة الحقيقية ستبقى دائماً مسؤولية بشرية واعية تقوّم عثرات الماضي وتضمن أن تكون التقنية جسراً للفرص المتكافئة لا جداراً فاصلاً.