الأخ الأكبر الذكي جديد أمازون المقلق

برلين – أثار إعلان شركة أمازون هذا الأسبوع، بأنها ستعتمد كاميرات تعمل بالذكاء الاصطناعي في شاحنات التوصيل التي تحمل علامتها التجارية من أجل السلامة، انتقادات من دعاة الخصوصية والعاملين الذين سيكونون محل المراقبة أثناء العمل.

وقالت أكبر شركة للتجارة الإلكترونية في العالم، إن الكاميرات التي طورتها شركة تكنولوجيا النقل نيتراداين، ستعمل على تحسين سلامة السائقين والمجتمعات التي يقدمون خدماتهم فيها.

لكن هينري سيرش، وهو سائق توصيل يبلغ من العمر 22 عاما من ولاية واشنطن، قال إنه كغيره من الموظفين رأوا في الأمر “انتهاكا للخصوصية”. وأضاف سيرتش في تصريح لرويترز عبر الهاتف “نحن نعمل طوال اليوم ونبذل قصارى جهدنا بالفعل، وتبقى الكاميرات مجرد طريقة أخرى لمراقبتنا”.

سابقة خطيرة

حذّر المدافعون عن الخصوصية من أن تزويد أسطول أمازون المكون من حوالي 30 ألف سيارة توصيل بكاميرات الذكاء الاصطناعي، يمكن أن يشكل سابقة خطيرة تطال الخصوصية.

وقال نائب مدير منظمة الكفاح من أجل المستقبل غير الربحية إيفان جرير، “يبدو هذا أكبر توسع لمراقبة الشركات في تاريخ البشرية. إذا أصبح هذا هو القاعدة، فإننا نتحدث عن انقراض للخصوصية”.

يمكن أن تساعد الكاميرات في تحسين السلامة، لكن دعاة الخصوصية والعديد من سائقي “دي.أس.بي” قالوا إنهم قلقون بشأن مقايضات الخصوصية المحتملة. السائقون الذين طلبوا عدم الكشف عن هويتهم خوفا من انتقام أمازون، وصفوا الكاميرات بأنها “مثيرة للقلق” و”الأخ الأكبر” و”نظام عقاب”.

وقال بعض السائقين إنهم قلقون من أن الكاميرات المجهزة بالذكاء الاصطناعي، ستضيف المزيد من الضغط على وظيفة تنطوي بالفعل على عبء عمل مكثف، يتمثل في توصيل المئات من الطرود يوميا.

ويمكن استخدام اللقطات التي تم جمعها بواسطة الكاميرات لقرارات التوظيف، بما يتوافق مع سياسة الخصوصية الصادرة عن أمازون. وقال السائقون لشبكة فيوتشر نيوز إنهم يخضعون لإجراءات تأديبية، اعتمادا على شدة مخالفة السلامة التي سجلتها الكاميرا.

وقال إيفان جرير “أعرف حتى الآن جميع الطرق التي سيستخدمون بها الفيديو الذي تم جمعه بواسطة هذه الأجهزة، آلة تصوير. وفي الوقت الحالي، لا توجد قوانين مطبقة تحكم ما يمكن أن تفعله أمازون بكل تلك اللقطات بمجرد جمعها”.

خضعت أمازون للتدقيق في الماضي لحوادث تتعلق بسائقي التوصيل. وقالت متحدثة باسم الشركة في تعليقات عبر البريد الإلكتروني إن “هذه التكنولوجيا ستوفر للسائقين تنبيهات في الوقت الفعلي لحمايتهم عندما يكونون على الطريق”.

وفي مقطع فيديو تعليمي حول الكاميرات، قالت كارولينا هارالدسدوتير، وهي مديرة أولى للسلامة في شركة أمازون، “إن الكاميرات ستسجل ما يجري باستمرار، لكنها ليست معدة للبث المباشر من داخل الشاحنات”.

وأوضحت أنها ستكتشف القيادة غير الآمنة، بما في ذلك عندما يبدو السائقون مشتتين أو يشعرون بالنعاس، مضيفة أن اللقطات يمكن أن يستخدمها فريق السلامة بالشركة، أو في التحقيقات في السرقة أو الحوادث.

لكن جرير قال إن قضايا السلامة يمكن معالجتها من خلال إبطاء وتيرة العمل، وإن “أول شيء يجب أن تفعله أمازون لتحسين السلامة هو ألا توفر بيئة تجبر السائقين على العمل في ظروف غير آمنة”.

وقال سائق آخر من ولاية ماساتشوستس، طلب عدم ذكر اسمه لحماية هويته، إنه سيرحب بفكرة وضع كاميرا خارج شاحنته لتسجيل الأدلة على أي حادث. وتابع في مقابلة عبر الهاتف “لكنني لا أرى كيف يحافظ توجيه الكاميرا إلى وجهي طوال الوقت على سلامتي… هذا كثير جدا”. وذكر أن السائقين يستخدمون بالفعل تطبيقا يسمى “مينتور” يتتبع موقع السيارة وتحركاتها.

قالت هارالدسدوتير إن “مجموعة محدودة فقط من الأشخاص المصرح لهم” يمكنهم الوصول إلى اللقطات التي سجّلتها الكاميرات. لكن بعض السائقين قلقون من أن أمازون قد تبيع اللقطات أو تشاركها مع أطراف ثالثة، أو تستخدم الكاميرات لمراقبة أدائهم في العمل.

وقال سائق من ميشيغان، طلب عدم ذكر اسمه “يمكن مشاركة اللقطات المسجلة مع صاحب عمل محتمل في المستقبل، يمكنه بعد ذلك أن يقرر رفضك قبل أن يعرفك”. وعلى الرغم من أنه يستمتع بعمله، إلا أنه قال إنه يبحث عن موطن شغل آخر لأنه لا يريد أن يخضع للمراقبة.

ترسيخ سلطات التجسس

ويقول نشطاء حقوقيون إن أمازون تعتمد نظام مراقبة واسع النطاق بالفعل في مستودعاتها، لتتبع تحركات العمال وزيادة الإنتاجية. وقال جرير “لا توجد قوانين معمول بها للحدّ مما يمكن أن تفعله أمازون مع اللقطات التي تجمعها بشكل هادف”، مشيرا إلى أن منتجات المراقبة الأخرى، مثل نظام كاميرا جرس الباب “رينغ”، يمكنها مشاركة اللقطات مع أقسام الشرطة.

يقول خبراء المراقبة إن الآثار المترتبة على الخصوصية تمتد إلى ما هو أبعد من سائقي شاحنات التوصيل في أمازون. وقال أندرو فيرغسون، وهو أستاذ قانون في الجامعة الأميركية في واشنطن، إن “شبكات المراقبة الخاصة في أمازون ستزيد من ترسيخ سلطات التجسس الحكومية”. وأضاف “في حين يعدّ استخدام تقنية الذكاء الاصطناعي لتعزيز سلامة السائق أمرا يستحق الثناء، يبقى الفشل في التفكير في قضايا الخصوصية والمراقبة أمرا مثيرا للقلق”. وأوضح فيرغسون أنه في حين أن الشرطة قد لا تتمكن من الوصول المباشر إلى اللقطات المسجّلة، إلا أن السلطات ستتمكن من الوصول إليها أثناء التحقيق، مما يوسع نطاق مراقبة الشرطة.

في يونيو الماضي، أعلنت أمازون تعليقا لمدة سنة على استخدام الشرطة لبرنامج التعرف على الوجه، بعد انتقادات بأن التكنولوجيا عززت التحيز العنصري. وقال فيرغسون “تقوم أمازون، حرفيا، ببناء شاحنات مراقبة متنقلة لتصوير أحيائنا، وهو أمر كان سيرعبنا لو اتبعته حكومتنا. لا أعتقد أننا نريد الانضمام إلى ديستوبيا برايم”.

وفي الفيديو التعليمي، الذي شاهدته قناة فيوتشر نيوز، تقول أمازون إن الكاميرات تسجل “100 في المئة من الوقت” عندما يكون السائقون في طريقهم.

تستخدم أمازون كاميرا تعمل بالذكاء الاصطناعي من إنتاج شركة نيترداين، وهي شركة ناشئة مقرها سان دييغو تأسست عام 2015. تحتوي الكاميرا المسماة “دريفاري”، على أربع عدسات تلتقط الطريق والسائق وجانبي السيارة. ولم يرد نيترداين على الفور على طلب للتعليق.

وتم تجهيز الكاميرات ببرنامج ذكاء اصطناعي قادر على اكتشاف 16 مشكلة أمان مختلفة، بما في ذلك إذا فشل السائق في التوقف عند علامة توقف، والقيادة المشتتة، والسرعة، والكبح الشديد، وما إذا كان السائق يرتدي حزام الأمان. قال أحد سائقي “دي.أس.بي” في كنتاكي “إن الكاميرات يمكنها أيضا اكتشاف متى يتثاءب السائق”.

ستؤدي بعض انتهاكات السلامة إلى قيام الكاميرا بإصدار تنبيه صوتي ، مثل “حافظ على مسافة آمنة”، “لم يتم اكتشاف توقف”، “الرجاء الإبطاء”، وفقا للفيديو الذي روته جزئيا هارالدسدوتير حيث تقول “السلامة هي أهم أولوياتنا في أمازون، ونأمل أن يمنح هذا النظام الجديد السائقين ومزودي خدمة دي.أس.بي راحة البال أثناء تقديم الابتسامات لعملائنا”.

تزويد أسطول أمازون المكون من حوالي 30 ألف سيارة توصيل بكاميرات الذكاء الاصطناعي، يمكن أن يشكل سابقة خطيرة تطال الخصوصية

عندما تكتشف الكاميرا أن موظفا ما ينخرط في سلوك قيادة غير آمن، تحمّل لقطات على “بوابة آمنة” يمكن الوصول إليها من قبل أمازون ومزود خدمة الإشارة. لم يرد متحدث باسم أمازون على أسئلة حول كيف يتم تأمين اللقطات.

الكاميرات مزودة ببرنامج ذكاء اصطناعي قادر على اكتشاف 16 مشكلة أمان مختلفة، بما في ذلك الفرملة الشديدة.

يتمتع السائقون ببعض التحكم في الكاميرا التي لا تسجل الصوت. يتيح الزر الموجود على الكاميرا للسائقين تحميل اللقطات يدويا، ويمكن للسائقين إيقاف تشغيل الكاميرات المواجهة للكابينة عند إيقاف تشغيل محرك السيارة، مما يسمح ببعض الخصوصية أثناء استراحة الغداء أو أثناء إجراء مكالمة هاتفية.

بينما تؤكد أمازون أن الكاميرا لا تزود الشركة أو “دي.أس.بي.أس” بـ”تغذية حية”، فإن بعض محفزات الأمان التي تحددها الكاميرا في الوقت الفعلي، قد تتسبب في وصول أمازون إلى السائق أثناء تواجده على الطريق.

على سبيل المثال، إذا تم القبض على سائق وهو يتثاءب، فإن الكاميرا ستطلب منه التوقف لمدة 15 دقيقة على الأقل، كما قال سائق كنتاكي لشبكة فيوتشر نيوز. وإذا لم يمتثل السائق، فقد يتلقون مكالمة من “دي.أس.بي.أس” يطلب منهم التوقف.

يمكن لأمازون أيضا استخدام اللقطات لأكثر من مجرد فرض تدابير السلامة. في الفيديو توضح هارالدسدوتير أيضا أنه يمكن استخدام اللقطات في التحقيقات في الحادث. يمكن أن يشمل ذلك أشياء مثل الاصطدام مع المركبات أو المشاة الآخرين، وكذلك سرقة العبوات.

تقول هارالدسدوتير في الفيديو “يمكن أن تكون لقطات الفيديو واحدة من أفضل الأدوات للحصول على حقائق حول الموقف بسرعة”، قبل أن ينتقل إلى سيناريو حيث تم استخدام لقطات “ديفاري”، “لتبرئة السائق من اللوم في حوادث السلامة”.

تنص سياسة الخصوصية على أنه يمكن تسليم اللقطات إلى جهات إنفاذ القانون أو استخدامها، كدليل في الإجراءات القانونية عند الضرورة.

أمازون ليست الشركة اللوجستية الوحيدة التي تعتمد على هذه التكنولوجيا. في العام الماضي، اختبرت “يو.بي.أس” الكاميرات الأمامية المزودة بأجهزة استشعار تصدر تنبيهات السلامة في شاحنات في عدة مدن كجزء من تجربة “إثبات أولي للمفهوم”، حسبما قال المتحدث باسم “يو.بي.أس” دان ماكماكين. واجه الاختبار بعض الضغط من نقابة عمال “تي سيتر”.

التحيز العرقي

يقول الخبراء إن قدرات الذكاء الاصطناعي تثير القلق أيضا، نظرا لأنها تسمح لشركة أمازون بالاعتماد على البرامج لمراجعة اللقطات على نطاق واسع، مما قد يؤدي إلى حدوث أخطاء في الحكم.

بالإضافة إلى ذلك، أظهرت الأبحاث السابقة حول أنظمة الذكاء الاصطناعي أن التكنولوجيا تعرض تحيزا عرقيا وجنسانيا، مثل “جندر شايد”، وهي دراسة تاريخية لعام 2018 كشفت أن تقنية التعرف على الوجه غير دقيقة للغاية بالنسبة للسود.

قال جرير “عندما تضع تقنية مراقبة فوق نظام تمييزي بالفعل، فإنها نوعا ما تعمل على أتمتة هذا التمييز وتضخيمه وتفاقمه، دون وجود قواعد لحماية العمال”.

قال أحد سائقي شركة أمازون في كاليفورنيا، الذي طلب عدم الكشف عن هويته، لشبكة فيوتشر نيوز، إن موظفي “دي.أس.بي” الذين ربما كانوا غير مرتاحين للتكنولوجيا لم يُمنحوا فرصة لإلغاء الاشتراك. وقالوا إن السائق كان مطالبا بقبول الشروط والأحكام إلكترونيا لتثبيت الكاميرا، “وإلا فلن أتمكن من العمل في أمازون”. حصلت فيوتشر نيوز على نسخة من الشروط والأحكام التي تم إرسالها إلى السائق.

قال جرير إن الكاميرات المجهزة بالذكاء الاصطناعي ترسل رسالة إلى العمال بأنه لا يمكن الوثوق بهم. وتابع “إنه يرسل رسالة أننا لا نثق بك، نحن نراقبك”. و”يبدو لي هذا مجرد خطأ”.