هل الخوارزميات منحازة للأثرياء حقا؟
نيويورك - غالبا ما نسمع عبارة الذكاء الاصطناعي المتحيز، بل والعنصري أيضا. فهل حقا أن الخوارزميات منحازة للأثرياء ضد الفقراء، ولأصحاب البشرة البيضاء ضد أصحاب البشرة السوداء؟
هناك مؤشرات على أن البيانات والخوارزميات قد تكون منحازة في عملية صنع القرار المؤتمت، وهي بالتالي تلحق الضرر بالأقليات وذوي الدخل المنخفض. ويتجلى هذا خاصة في البرامج التي تستخدمها البنوك للتنبؤ بما إذا كان شخص ما سوف يسدد ديون بطاقة الائتمان أو لا، فهي عادةً ما تفضِّل المتقدمين الأكثر ثراءً. ويحاول العديد من الباحثين حل هذه المشكلة والبحث عن طرق تجعل الخوارزميات أكثر عدلاً.
المشكلة أكبر من مجرد تحيز كما أظهر الاقتصاديان، لورا بلاتنر من جامعة ستانفورد وسكوت نيلسون من جامعة شيكاغو، في أكبر دراسة على الإطلاق لبيانات الرهن العقاري. وبيّن الباحثان أن الاختلافات في الموافقة على الرهن العقاري بين مجموعات الأقليات والأغلبية يرجع إلى حقيقة أن الأقليات وفئات الدخل المنخفض تمتلك بيانات أقل في تاريخها الائتماني.
وهذا بالتالي سيؤدي إلى تنبؤ أقل دقة عند استخدام هذه البيانات لحساب درجة الائتمان. وهذا الافتقار إلى الدقة هو ما يؤدي إلى عدم المساواة، وليس فقط التحيز.
ما توصل إليه الدراسة تجعل الأمور أكثر تعقيدا، لأنها تعني أن تطوير خوارزميات أكثر عدلاً لن يحل المشكلة.
وتعتمد درجات الائتمان على مجموعة من البيانات الاجتماعية والاقتصادية، منها تاريخ التوظيف والسجلات المالية وعادات الشراء، وتحولها إلى رقم واحد. وإضافة إلى استخدام هذه الدرجات للبت في طلبات القروض، فإنها تستخدم أيضا لاتخاذ العديد من القرارات التي تؤثر على حياة الناس بما في ذلك القرارات المتعلقة بالتأمين والتوظيف.
وفي خطوة ثانية قام الباحثان بتجربة خوارزميات تنبؤية مختلفة لإظهار أن درجات الائتمان لم تكن متحيزة فحسب، وإنما كانت مشوشة أيضاً، وأن إدخال تعديلات للتخفيف من هذا التحيز لم يكن له أي تأثير.
وتقول بلاتنر “إنها حلقة ذاتية التغذية؛ فنحن نمنح قروضاً للأشخاص الخطأ ولن تتاح الفرصة لجزء كبير من السكان لتكوين البيانات اللازمة لمنحهم قرضاً في المستقبل”.
بعد ذلك، حاول الباحثان قياس حجم المشكلة، من خلال بناء محاكاة خاصة لأداة التنبؤ بأحد مقرضي الرهن العقاري وقدّرا ما كان سيحدث إذا تم عكس القرارات بشأن المتقدمين الذين كانت درجاتهم على الحد الفاصل بين القبول والرفض، ولجأ الباحثان إلى مجموعة متنوعة من الأساليب، مثل مقارنة حالات المتقدمين المرفوضين بأخرى مماثلة تم قبولها.
بتجميع كل هذا معاً، وجدوا أنه عند افتراض أن القرارات المتعلقة بمقدمي الطلبات من الأقليات وذوي الدخل المنخفض كانت بنفس دقة تلك الخاصة بالأثرياء من ذوي البشرة البيضاء، انخفض التمييز بين المجموعات إلى النصف تقريبا.
مع ذلك، حل هذه المشكلة لن يكون سهلاً، كما تقول رشيدة ريتشاردسون، المحامية والباحثة في جامعة نورث أيسترن. فهناك وفق ريتشاردسون العديد من الأسباب التي تجعل البيانات الائتمانية الخاصة بمجموعات الأقليات مشوشة.
وتضيف هناك عواقب اجتماعية معقدة حيث قد لا تسعى مجتمعات معينة إلى الحصول على الائتمان التقليدي بسبب عدم الثقة في المؤسسات المصرفية يجب أن يتعامل أي إصلاح مع الجذور العميقة للمشكلة إذ إن عكس الضرر الممتد على مدى أجيال يستدعي تطبيق مجموعة واسعة من الحلول والإصلاحات بما في ذلك اللوائح المصرفية الجديدة والاستثمار في مجتمعات الأقليات.
أحد الخيارات هو أن تدفع الحكومة المقرضين إلى قبول مخاطر منح قروض لمقدمي الطلبات من الأقليات الذين ترفضهم خوارزمياتهم. سيسمح هذا للمقرضين بالبدء في جمع بيانات دقيقة حول هذه المجموعات لأول مرة؛ ما سيعود بالفائدة على كل من المتقدمين والمقرضين.
وتخشى ريتشاردسون أن يتم إقناع صانعي السياسات بأن التكنولوجيا يمكن أن تحمل الإجابات عندما لا يكون ذلك واقع الحال. وتختم بالقول بأن البيانات غير المكتملة تثير القلق؛ لأن اكتشافها سيتطلب من الباحثين أن يمتلكوا فهماً دقيقاً إلى حد ما لأوجه عدم المساواة المجتمعية.
