مخاوف أخلاقية في قلب تجارب الذكاء الاصطناعي الإسرائيلية بغزة

واشنطن - كشف تحقيق استقصائي نشرته صحيفة نيويورك تايمز الأميركية عن استخدام إسرائيل المكثف والسريع لتقنيات عسكرية مدعومة بالذكاء الاصطناعي في حربها على غزة، وذلك بوتيرة "لم يسبق لها مثيل"، ما أثار جدلا أخلاقيا واسعا في العالم.

واستند التقرير إلى مقابلات مع تسعة مسؤولين دفاعيين أميركيين وإسرائيليين تحدثوا شريطة عدم الكشف عن هويتهم نظرا للطبيعة السرية لهذه العمليات.

وأوضحت الصحيفة أن "أداة الصوت" التي تم الكشف عنها مؤخرا ليست سوى مثال واحد على هذا التوجه، حيث تقوم إسرائيل بتجربة ونشر هذه التقنيات بسرعة فائقة خلال الأشهر الثمانية عشر الماضية. وشمل ذلك دمج الذكاء الاصطناعي مع برامج التعرف على الوجوه لمطابقة الوجوه المشوهة أو المخفية جزئيا بالهويات الحقيقية، والاعتماد على الذكاء الاصطناعي في تجميع أهداف محتملة للغارات الجوية، وإنشاء نموذج ذكاء اصطناعي باللغة العربية لتحليل الرسائل النصية ومنشورات وسائل التواصل الاجتماعي وغيرها من البيانات.

وأشار التقرير إلى أن العديد من هذه الجهود كانت ثمرة شراكة بين جنود مجندين في الوحدة 8200 وجنود احتياط يعملون في شركات تكنولوجيا عملاقة مثل غوغل ومايكروسوفت وميتا. وقد أنشأت الوحدة 8200 ما يُعرف باسم "الاستوديو"، وهو مركز ابتكار يهدف إلى ربط الخبراء بمشاريع الذكاء الاصطناعي.

على الرغم من سعي إسرائيل الحثيث لتطوير ترسانة من أدوات الذكاء الاصطناعي، لفت التقرير إلى أن نشر هذه التقنيات أدى في بعض الأحيان إلى "أخطاء في تحديد الهوية واعتقالات، بالإضافة إلى وفيات مدنية"، وفقًا لمسؤولين إسرائيليين وأميركيين.

وقد أعرب بعض المسؤولين عن صعوبة في فهم التداعيات الأخلاقية لهذه الأدوات، التي قد تؤدي إلى "زيادة المراقبة وجرائم قتل مدنيين أخرى".

ونقلت الصحيفة عن مسؤولين دفاعيين أوروبيين وأميركيين تأكيدهم على أن "لا توجد دولة أخرى نشطة مثل إسرائيل في تجربة أدوات الذكاء الاصطناعي في المعارك اللحظية"، مما يقدم لمحة عن مستقبل الحروب وكيف يمكن لهذه التقنيات أن تنجح أو تفشل.

من جهتها، صرحت هاداس لوربر، رئيسة معهد الأبحاث التطبيقية في الذكاء الاصطناعي المسؤول والمديرة السابقة لمجلس الأمن القومي الإسرائيلي، بأن "الحاجة الملحة للتعامل مع الأزمة سرّعت وتيرة الابتكار، الذي اعتمد في معظمه على الذكاء الاصطناعي".

وأضافت أن ذلك أدى إلى "ابتكار تقنيات غيّرت قواعد اللعبة في ساحة المعركة، ومزايا أثبتت أهميتها في القتال".

إلا أن لوربر حذرت من أن هذه التقنيات "تثير أيضًا تساؤلات أخلاقية خطيرة"، مشددة على ضرورة وجود "ضوابط وتوازنات" وأن "البشر هم من يتخذ القرارات النهائية".

وفي تعليق مقتضب، قالت متحدثة باسم الجيش الإسرائيلي إنها لا تستطيع التعليق على تقنيات محددة نظرًا "لطبيعتها السرية". وأكدت أن إسرائيل "ملتزمة بالاستخدام القانوني والمسؤول لأدوات تكنولوجيا البيانات"، مشيرة إلى أن الجيش يحقق في واقعة الغارة على إبراهيم بياري، وأنه "غير قادر على تقديم أي معلومات إضافية حتى اكتمال التحقيق".

ورفضت شركات ميتا ومايكروسوفت التعليق على التقرير، بينما قالت غوغل إن لديها "موظفين يؤدون خدمة الاحتياط في دول مختلفة حول العالم" وأن "العمل الذي يقوم به هؤلاء الموظفون كاحتياطيين ليس مرتبطًا بغوغل".

ويشير التقرير إلى أن إسرائيل لديها تاريخ في استخدام النزاعات في غزة ولبنان لتجربة وتطوير أدوات تقنية لجيشها، مثل الطائرات بدون طيار وأدوات اختراق الهواتف ونظام القبة الحديدية الدفاعي.

وبعد هجمات حماس في 7 أكتوبر 2023، سُمح بسرعة بنشر تقنيات الذكاء الاصطناعي، مما أدى إلى تعاون مكثف بين الوحدة 8200 وجنود الاحتياط في "الاستوديو" لتطوير قدرات جديدة بوتيرة متسارعة.

وأكد آفي حسون، الرئيس التنفيذي لشركة ستارت أب نيشن سنترال، أن جنود الاحتياط من ميتا وغوغل ومايكروسوفت أصبحوا "عنصرًا أساسيًا في دفع عجلة الابتكار في مجال الطائرات بدون طيار وتكامل البيانات"، حيث جلبوا "المعرفة الفنية وإمكانية الوصول إلى تقنيات رئيسية لم تكن متاحة في الجيش".

واستخدم الجيش الإسرائيلي الذكاء الاصطناعي لتعزيز أسطول طائراته بدون طيار، حيث تم استخدام خوارزميات مدعومة بالذكاء الاصطناعي لبناء طائرات بدون طيار قادرة على تحديد الأهداف وتتبعها من مسافة بعيدة بدقة متناهية، حتى في حالة حركة الهدف.

وكشف التقرير عن تطوير "ذا ستوديو" لنموذج ذكاء اصطناعي باللغة العربية يُعرف باسم نموذج اللغة الكبير، والذي واجه صعوبات في البداية بسبب ندرة البيانات باللغة العربية المنطوقة لتدريب التكنولوجيا.

إلا أن الجيش الإسرائيلي تمكن من التغلب على هذه المشكلة من خلال استغلال عقود من الرسائل النصية والمكالمات الهاتفية ومنشورات وسائل التواصل الاجتماعي التي تم جمعها باللهجات العربية المنطوقة. وقد تم دمج هذه الأداة مع قواعد بيانات الوسائط المتعددة، مما سمح للمحللين بإجراء عمليات بحث معقدة عبر الصور ومقاطع الفيديو.

وقد استُخدم هذا النموذج في تحليل ردود الفعل في العالم العربي عقب اغتيال إسرائيل لزعيم حزب الله، حسن نصر الله، في سبتمبر الماضي، حيث ميز بين اللهجات المختلفة لتقييم ردود الفعل الشعبية.

وأشار التقرير إلى أن برنامج الدردشة الآلي واجه في بعض الأحيان صعوبة في تحديد المصطلحات العامية الحديثة والكلمات المترجمة، وقدم أحيانًا إجابات خاطئة. كما واجه نظام التعرف على الوجوه صعوبات في تحديد الأشخاص الذين حُجبت وجوههم، مما أدى إلى اعتقال واستجواب فلسطينيين تم تحديدهم عن طريق الخطأ.

وكشف التقرير أيضًا عن استخدام إسرائيل لخوارزمية تعلم آلي تُعرف باسم "لافندر" لفرز البيانات بسرعة والبحث عن مسلحين ذوي رتب منخفضة في حماس، وذلك للمساعدة في اختيار أهداف الهجوم في بداية الحرب على غزة.

وفي مثال آخر على استخدام الذكاء الاصطناعي، ذكر التقرير كيف لجأت المخابرات الإسرائيلية إلى "أداة الصوت" المدعومة بالذكاء الاصطناعي لتحليل أصوات مختلفة وتحديد موقع قيادي في حماس، إبراهيم بياري، الذي يُعتقد أنه لعب دورا محوريا في التخطيط لهجمات 7 أكتوبر. وقد تم استخدام هذه الأداة أيضًا لتحديد مواقع الرهائن في أنفاق غزة.

ويختتم التقرير بالإشارة إلى أن الجيش الإسرائيلي يواصل تحسين هذه الأدوات بمرور الوقت لزيادة دقتها في تحديد الأفراد. ويثير هذا الكشف تساؤلات جوهرية حول الدور المتزايد للذكاء الاصطناعي في الصراعات الحديثة وتداعياته الأخلاقية والإنسانية.