تويتر "عنصري" أيضا.. متحيز للوجوه البيضاء
لندن- كشفت تقارير صحافية عالمية عن ثغرة في خوارزميات منصة التدوين المصغر تويتر، والتي تظهر تحيزا عرقيا محتملا للمنصة.
وأشار موقع “إنغادجيت” التقني المتخصص إلى أن منصة تويتر أقرت بصورة جزئية، بخطأ “الخوارزميات” الخاصة بها.
وتبحث منصة تويتر في سبب تفضيل الشبكة العصبية التي تستخدمها لتوليد معاينة الصور إظهار وجوه الأشخاص البيض بشكل متكرر أكثر من الوجوه السوداء. وأظهر العديد من مستخدمي تويتر المشكلة خلال عطلة نهاية الأسبوع، حيث نشروا أمثلة على المشاركات التي تضمنت وجه شخص أسود ووجه شخص أبيض.
وأظهرت معاينة تويتر الوجوه البيضاء في الكثير من الأحيان، وبدأ الاختبار غير الرسمي بعد أن حاول أحد مستخدمي تويتر النشر عن مشكلة لاحظها في ميزة التعرف على الوجه في تطبيق زووم، حيث لم تكن تُظهر وجه زميل أسود في المكالمات.
ولاحظ أن خوارزمية تويتر تفضل الوجه الأبيض على الوجه الأسود عندما نشر المشكلة على تويتر، واكتشف المستخدمون أن خوارزمية المعاينة اختارت شخصيات كرتونية غير سوداء أيضا. وأوضح باحثو التعلم الآلي في تدوينة كيف بدأوا بالتعرف على الوجه لاقتصاص الصور، وذلك عندما بدأت المنصة لأول مرة في استخدام الشبكة العصبية لاقتصاص معاينات الصور تلقائيا.
وقالت التدوينة “استخدمنا في السابق ميزة اكتشاف الوجه لتركيز الرؤية على أبرز وجه يمكننا العثور عليه، وبالرغم من أن هذا ليس استدلالا غير منطقي، إلا أن النهج له حدود واضحة نظرا لأنه لا تحتوي جميع الصور على وجوه”.
وأضافت “غالبا ما يتجنب جهاز كشف الوجه لدينا الوجوه وأحيانا يكتشف الوجوه عن طريق الخطأ عندما لا تكون هناك أي وجوه، وفي حال لم يتم العثور على وجوه، فسنركز الرؤية على وسط الصورة، وقد يؤدي ذلك إلى اقتصاص صور المعاينة بشكل محرج”.
وغرد كبير مسؤولي التصميم في تويتر دانتلي ديفلي بأن “الشركة كانت تحقق في الشبكة العصبية، حيث أجرى بعض التجارب غير العلمية على الصور”.
وغردت ليز كيلي من فريق التواصل في تويتر بأن الشركة اختبرت التحيز قبل إرسال النموذج لكنها لم تجد دليلا على التحيز العنصري أو الجنساني في اختبارها.
وكتبت كيلي عبر منصة تويتر “من الواضح من هذه الأمثلة أن لدينا المزيد من التحليل للقيام به، ونحن نبحث في هذا، ونواصل مشاركة ما نتعلمه والإجراءات التي نتخذها، وسنفتح مصدر عملنا حتى يتمكن الآخرون من المراجعة والتكرار”.
وغرد كبير مسؤولي التكنولوجيا في تويتر باراغ أغراوال أن النموذج بحاجة إلى تحسين مستمر، مضيفا أنه حريص على التعلم من التجارب.
وسبق لشركة فيسبوك أن أعلنت يونيو الماضي تحقيقها في ما إذا كانت خوارزمياتها تميز ضد الأقليات العرقية، بعدما أجبرتها الاحتجاجات الداخلية على إعادة تقييم إمكانية التقاط أنظمتها للتعلم الآلي التحيز الموجود على أرض الواقع.
وستكلف فرق “الإنصاف والدمج” في الشركة بتقييم خوارزميات موقعي فيسبوك وإنستغرام، والتأكد من عدم انحيازها ضد السود واللاتينيين وغيرهم من الأقليات العرقية. ولفتت فيسبوك إلى أن تركيزها سينصب على “ضمان الإنصاف وتطوير الخدمات العادلة”.
وأوضحت الشركة أن هدف فرقها الجديدة رصد أي مقاربات متحيزة وضمان أن تعامل الخدمة كل العرقيات بمساواة، مشيرة إلى أنها ستعلن المزيد من التفاصيل حول المبادرة خلال الأشهر المقبلة.
وقال نائب رئيس المنتجات في إنستغرام فيشال شاه في بيان إن “حركة العدالة الاجتماعية تشكل لحظة مفصلية حقيقية بالنسبة لشركتنا. إن أي تحيز في أنظمتنا أو سياساتنا يتعارض مع مبدأ توفير منصة تسمح للجميع بالتعبير عن أنفسهم…”.
