أنظمة التعرف إلى الوجوه ليست أهلا للثقة
تقرير حكومي أميركي يجد أن خوارزميات التعرف إلى الوجوه من خلال ملامحهم تقدم تعريفا خاطئا للآسيويين أو السود أكثر بمئة مرة من البيض، ما قد يودي ببعض الأبرياء إلى السجن، مشددا على أن هذه التقنية تقترف الكثير من الأخطاء وتعزز مشاعر الكراهية والعنصرية بين الناس.
واشنطن – أظهر تقرير حكومي أميركي أن أنظمة التعرف إلى الوجوه ليست أهلا للثقة على الدوام خصوصا مع الأشخاص غير البيض، ما يعزز الشكوك بشأن أهمية استخدام هذه التكنولوجيا المعتمدة على الذكاء الاصطناعي.
وخلصت هذه الدراسة، التي حلل معدوها العشرات من الخوارزميات، إلى أن نظام التعرف إلى الوجوه يقدم تعريفا خاطئا للأشخاص الآسيويين أو السود أكثر بمئة مرة من أولئك البيض.
كما رصد الباحثون في معهد “ناشونال إنستيتيوت أوف ستاندردز أند تكنولوجي” التابع للحكومة الأميركية، خوارزميتين كانتا تعرّفان خطأ جنس النساء السوداوات في 35 بالمئة من الحالات.
وتُستخدم تقنية التعرف إلى الوجوه على نطاق واسع من جانب السلطات وقوات الأمن والمطارات والبنوك والمتاجر والمدارس، إلى جانب أنها تُستخدم في فتح الهواتف الذكية.
وكان معرض لاس فيغاس للإلكترونيات أفرد، في يناير الماضي، مساحة واسعة للإكسسوارات والابتكارات العاملة بهذه التقنية، حيث عرضت عدة شركات رؤيتها المستقبلية للعلاقات بين الناس، محوّلة تقنية التعرف إلى الوجوه إلى ثورة تسهّل المعاملات وتتعرف على هوية الشخص ونواياه، رغم وجود مخاوف من خطرها على الحريات الفردية.
ويحاول ناشطون حقوقيون وباحثون كثر الحد من المبالغة في استخدام هذه التقنية، معتبرين أن الخوارزميات تقترف الكثير من الأخطاء وأن بعض الأبرياء قد يجدون أنفسهم في السجن فضلا عن خطر قرصنة قواعد البيانات واستخدامها من جانب مجرمين.
وسجلت الخوارزميات المطورة في الولايات المتحدة معدلات خطأ أعلى مع الآسيويين والأميركيين من السود أو المنتمين إلى قبائل السكان الأصليين، بحسب الدراسة التي أشارت في المقابل إلى أن الخوارزميات المطورة في بلدان آسيوية بدت قادرة على التعرف إلى وجوه الآسيويين والبيض بالدقة عينها.
وقال مدير البحث باتريك غروثر إن “هذا الأمر مشجع لأنه يظهر أن استخدام قاعدة بيانات أكثر تنوعا يتيح تحقيق نتائج أفضل”.
إلا أن “الاتحاد الأميركي للحريات المدنية” -وهو منظمة حقوقية غير حكومية- اعتبر أن هذه الدراسة تثبت قبل أي شيء أن هذه التكنولوجيا ليست متطورة بالمقدار الكافي ويتعين تاليا عدم استخدامها.
وقال المحلل في هذه المنظمة جاي ستانلي “حتى العلماء الحكوميون يؤكدون أن تكنولوجيا المراقبة هذه دونها عيوب ومنحازة”.
وأضاف “التعرف الخاطئ قد يؤدي إلى تفويت موعد طائرة أو إلى استجوابات بلا نهاية أو إلى وضع على قائمة الأشخاص الذين تستوجب مراقبتهم، إضافة إلى توترات مع رجال الشرطة وتوقيفات بلا أساس، أو ربما (تؤدي إلى ما هو) أسوأ (من ذلك)”.
وكانت “أمازون”في أكتوبر الماضي قد دعت الدول إلى تنظيم استخدام تقنية التعرّف إلى الوجوه، في وقت تواجه فيه المجموعة العملاقة انتقادات حادة في مجالات مختلفة، من موقعها المهيمن إلى مدى احترامها الحياة الخاصة.
وجاء في بيان أصدرته المجموعة الأميركية أنه ينبغي على الحكومات أن “تعمل بسرعة على وضع إطار تنظيمي… لضمان استخدام هذه التكنولوجيا بالشكل المناسب”.
وأورد البيان “كما الحال مع كلّ التقنيات، يساء استخدام تقنية التعرّف إلى الوجوه. ونحن نقدّم إرشادات لكلّ زبائن برمجية ‘ريكوغنيشن’، بمن فيهم رجال الأمن، حول السبل المثلى لاستخدامه”.
وحظرت سان فرانسيسكو التي تُعرف باسم “مركز التكنولوجيا العالمي” وتوجد في خليجها مقار عمالقة مثل فيسبوك وتويتر وأوبر وغوغل ألفابت، في مايو الماضي، استخدام تقنية التعرف إلى الوجه من قبل الشرطة والهيئات الحكومية، لتكون أول مدينة أميركية تتخذ مثل هذه الخطوة مع تصاعد القلق بشأن انتهاك الخصوصية في عاصمة التكنولوجيا.
وأكد مؤيدو التشريع أن البرمجيات والكاميرات القادرة على التعرف إلى هوية الأشخاص “غير جاهزة بعد للاستخدام على نطاق واسع”، وفق ما قاله عضو مجلس المدينة آرون بيسكين.
وجاء في التشريع أن الضرر الذي يمكن أن تلحقه تكنولوجيا التعرف إلى الوجه بالحقوق المدنية والحريات المدنية “يفوق بشكل كبير فوائدها المتوقعة”.
وأضاف أن التعرف إلى الوجه يمكن أن “يزيد من حدة الظلم ذي المنشأ العنصري ويهدد قدرتنا على العيش دون مراقبة حكومية مستمرة”.
وكان الحظر جزءا من قانون أوسع نطاقا يحدد سياسة استخدام أنظمة المراقبة ومتابعتها ويضع عقبات كبيرة ويتطلب موافقة مجلس الإدارة على استخدامها من قبل أي هيئة في المدينة.
ويجري النظر في فرض حظر مماثل على الضفة الأخرى من الخليج في مدينة أوكلاند. وتشمل المخاوف المتعلقة بالتكنولوجيا مخاطر مثل التعرف خطأ إلى أبرياء على أنهم مجرمون وإمكانية أن تنتهك الأنظمة خصوصية الناس في حياتهم اليومية.
لكن مؤيدي التكنولوجيا يجادلون بأن أنظمة التعرف إلى الوجه يمكن أن تساعد الشرطة في محاربة الجريمة والحفاظ على الأمن في الشوارع.
وقالت جمعية “أوقفوا الجريمة في سان فرانسيسكو”، إن التعرف إلى الوجه “يمكن أن يساعد في العثور على الأطفال المفقودين والمصابين بالخرف أو الزهايمر، وفي مكافحة الاتجار بالبشر من أجل الجنس”.
وينتشر استعمال هذه التقنية في العالم بالرغم من المخاوف التي تثيرها بشأن حماية الحقوق والحريات.
وتستخدم السلطات الصينية نظاما واسعا من تقنية التعرف إلى الوجه لتتبع أفراد أقلية الإيغور في جميع أنحاء البلاد، وذلك وفقا لمقالة نشرتها مؤخراً صحيفة نيويورك تايمز. وتعرضت بكين لانتقادات واسعة النطاق بسبب معاملتها الإيغور في منطقة شينجيانغ الشمالية الغربية، حيث تفيد تقارير استشهدت بها لجنة تابعة للأمم المتحدة بأن ما يصل إلى مليون شخص من أبناء هذه الأقلية الناطقة بالتركية وغالبيتهم مسلمون، وضعوا في معسكرات تحت المراقبة.
ويُعتقد أنه أول مثال معروف تستخدم فيه حكومة الذكاء الاصطناعي عن عمد في التعرف إلى أبناء عرق بعينه.
