النظارات الذكية تقتحم حياة البشر وتتعرف على وجوههم
اعرضْ أيّ صورة وجهية لمحرك البحث سيتعرف عليها في أجزاء من الثانية ويقدم لك اسم صاحبها/تها. فكل ما احتاجه طالبان في جامعة هارفارد هو أربعة أيام لابتكار نظارة تقوم بمهمة محرك البحث هذه، ليتحول كابوس جورج أورويل في روايته "1984" إلى حقيقة.
لندن- تخيل نظارة يمكن أن تخبرك باسم أي شخص تقابله وعنوانه. استغرق كين أردايفيو وأنهفو نغوين، الطالبان في جامعة هارفارد، أربعة أيام فقط لجعل هذا حقيقة واقعة.
وتمكنا من تكييف نظارات “ميتا راي بان” الذكية وبرامج الكمبيوتر لإنشاء نموذج يعتمد تقنية التعرف على الوجوه الحالية لتحديد الأشخاص في الوقت الفعلي. ويشير هذا إلى إمكانات الواقع المعزز في المستقبل.
وتمكنت النظارات من تقديم اسم شخص ما في أقل من دقيقتين باستخدام محرك بحث عام للتعرف على الوجه وبالذكاء الاصطناعي. وأثار ذلك القلق بشأن المخاطر غير المتوقعة الناتجة عن الذكاء الاصطناعي وخلط التكنولوجيات الموجودة اليوم.
وقال أردايفيو لمؤسسة تومسون رويترز في مقابلة بالفيديو من جامعة هارفارد “أردنا أن يؤسس هذا مساحة لتوعية الناس بالتكنولوجيا وكيفية حماية أنفسهم.”
ويجتمع الطالبان، اللذان التقيا قبل سنتين، في اهتمامهما بالواقع المعزز (دمج المعلومات الرقمية في العالم الحقيقي). وانتشر الحديث عن ابتكارهما الأخير خلال سبتمبر حين أبلغ نغوين عنه على منصة إكس.
وقال أردايفيو “كان من البديهي أن التكنولوجيا التي قمنا بتطويرها كانت قوية إلى حد ما وتطرح تعقيدات للخصوصية.”
واعتمد الطالبان الكاميرات الموجودة على جانبي إطار نظارات ميتا راي بان الذكية لإرسال بث مباشر عبر إنستغرام إلى جهاز كمبيوتر. ثم التقط برنامج كمبيوتر لقطات من البث وحمّلها على موقع بيم آيز الإلكتروني، الذي يمسح الصور من الإنترنت لتحديد الأشخاص مقابل رسوم.
وقال نغوين إن الهدف كان يكمن في زيادة الوعي وليس في تسويق المشروع.
وليست نظارات التعرف على الوجه جديدة. ودخلت شركة كليرفيو للذكاء الاصطناعي في شراكة مع القوات الجوية في 2022 لتطوير تقنية مماثلة في النقاط الحدودية. لكنها لم تبلغ بعد نقطة توفير التكنولوجيا للمستهلكين العاديين.
وعندما انتشر خبر مشروع الطالبين، أثار خبراء الحقوق الرقمية مخاوف بشأن هذا الاستخدام المحتمل الجديد لتقنية التعرف على الوجه، خاصة ضد النساء ومجموعات الأقليات وفي بلدان مثل الولايات المتحدة.
وليس للولايات المتحدة قانون فيدرالي يرسم حدود استخدام تقنية التعرف على الوجه في القطاع العام أو الخاص. لكن بعض الولايات تعتمد تشريعات خصوصية محلية تحكم التكنولوجيا.
وتتبع إلينوي قانون خصوصية المعلومات البيومترية الذي ينظم جمع هذه البيانات ونشرها. ويشمل هذا بصمات الأصابع أو مسح شبكية العين. كما تقيد ماساتشوستس التعرف على الوجه وتقصره على إنفاذ القانون.
تهديد للنساء
اعتمد الطالبان موقع بيم آيز الإلكتروني لتحليل الصور، ثم أدخلا النتائج على روبوت تشات جي بي تي لتحديد اسم الشخص. ثم كتبا هذا الاسم على محرك بحث السجلات العامة لتحديد عنوان منزله.
وصفت منظمة بيغ براذرووتش غير الربحية في المملكة المتحدة بيم آيز بأنه من البرامج التي يمكن استخدامها للمطاردة والتحرش عبر الإنترنت. لكن بيم آيز نفت الأمر. وقال مدير الشركة جيورجي غوبرونيدزي إن هذه الاتهامات “لا أساس لها” وتعكس “سوء فهم كبير” للتقنية.
وقال دونالد بيل، مستشار السياسات في مشروع الرقابة الحكومية المستقل، إن “القدرة على جمع بيانات ضخمة (مليارات الصور) ثم استخدام هذه التكنولوجيا لتحديد أي شخص تعدّ مشكلة” وأن النساء يمكن أن يكُنّ عرضة للخطر أكثر.
وأكد أن الكشف عن اسم أية امرأة وعنوانها في الشارع يمكن أن يفتح الباب أمام المطاردة. ولتقنية التعرف على الوجه سجل ضعيف في تحديد الأشخاص من ذوي البشرة الداكنة، مما قد يزيد من حالات الاعتقال غير المشروع.
وقال بيل “لا توجد حواجز حماية. لا يوجد قانون خصوصية فيدرالي حقيقي يحمي من مخاطر التعرف على الوجه.”
وقالت أماندا مانيامي، مستشارة الحقوق الرقمية في منظمة المساواة الآن الحقوقية غير الحكومية، إن النظارات الذكية تثير العديد من المخاوف بشأن سلامة المرأة، بما في ذلك جمع البيانات دون موافقة، وإمكانية استخدام الصور للتزييف العميق، والمطاردة.
وترى أن تجربة الطالبين كشفت عن بعض هذه المخاطر.
وأضافت “يحتاج صانعو السياسات إلى رؤية الضرر الذي يمكن أن يسببه الذكاء الاصطناعي لأنهم لا يفهمون سبب الحاجة إلى السلامة على مستوى التصميم.”
قطاع غير منظم
قال الطالبان إن التعرف على الشخص كان سيستغرق عشر ثوان إذا تمتعا بسيطرة كاملة على مجموعة التكنولوجيا التي تشمل الكاميرا أو قاعدة بيانات المعلومات التي ستكون متاحة لشركات التكنولوجيا الأكبر مثل ميتا.
واعتبرا استخدام تشات جي بي تي غير فعال أيضا. لكن ضبط نماذج اللغة الكبيرة أو بناء أدوات متخصصة سيسرع العملية.
وقالا إن هذه التحسينات يمكن أن تنتشر في المستقبل القريب، إما من عمالقة التكنولوجيا أو الشركات المقلدة التي ترغب في صنع منتجات مماثلة باعتماد الأجهزة الحالية.
وصرّح أردايفيو “أعتقد بالتأكيد أن الناس سيحاولون نسخ ما تحدثنا عنه هنا.” وأكد احتمال أن يستخدم البعض هذا النموذج لأغراض خبيثة.
ويعمل عمالقة التكنولوجيا مثل ميتا (التي تمتلك فيسبوك وانستغرام وسناب شات) على تطوير نظارات الواقع المعزز. وترى في ذلك، المرحلة التالية في التطوير بعد الهواتف الذكية.
وقال متحدث باسم سناب شات أن نظارات الواقع المعزز، سبيكتيكلز، لم تعتمد تقنية التعرف على الوجه. ولم تعلق على ما إذا كانت ستسمح لأطراف ثالثة بتطوير تقنية التعرف على الهوية باستخدام هذه النظارات.
وقال متحدث باسم ميتا في رسالة بالبريد الإلكتروني إن الطالبين “اعتمدا ببساطة برنامج التعرف على الوجه المتاح للجمهور والذي يقبل الصور التي يمكن التقاطها بأي كاميرا أو هاتف أو جهاز تسجيل.”
ولم يعلق المتحدث على ما إذا كانت ميتا قد اختبرت أي شكل من أشكال تقنية التعرف على الهوية مع منتجاتها أو نظاراتها الذكية، أو ما إذا كانت ستسمح لهذه التكنولوجيا بأن تكون متوافقة مع نظارات الواقع المعزز القادمة، أوريون.
وقال غوبرونيدزي إن الطالبين انتهكا شروط خدمات موقع بيم آيز، وأكد حظرهما عنه. وأشار إلى أن المطورين أدخلوا ضمانات إضافية “لمنع إساءة الاستخدام في المستقبل.”
وأضاف “يجب تسليط الضوء على أن مسؤولية مثل هذا المحتوى ترجع للناشرين وليس محركات البحث التي تعتمد البيانات الموجودة. وانتقد الطالبين لإساءة استخدام التكنولوجيا.”
وذكر أنهما تجاوزا إبراز وجهة نظرهما وأظهرا عن غير قصد مدى سهولة إساءة استخدام الأدوات المتاحة.
ورد الطالبان عن هذه التعليقات بالقول إن “هدفهما يكمن ببساطة في زيادة الوعي حول هذه التقنيات.”
وحذرت مانيامي من أنّ تقدم الذكاء الاصطناعي والتفاعل المستقبلي بين الأنظمة الحالية يمكن أن يخلق مخاطر لم يُنظر فيها أو تشريعها من قبل.
ويرى بيل أن الحظر العام على تقنية التعرف على الوجه قد يحمي من المخاطر المتزايدة.
وقال إن النظارات الذكية تخلق مستوى آخر حيث تكون لدى أي فرد القدرة على تتبع خصوصيات شخص ما في الوقت الفعلي.
