التحكم البشري ضروري عند استعمال التقنية العصبية العسكرية

واشنطن - يوما بعد يوم، تتعاظم الأهمية العسكرية للوصلات بين المخ والآلة المرتبطة بالذكاء الاصطناعي ما يطرح ضرورة اتخاذ خطوات لضمان التحكم البشري في كل الأوقات بهذه التكنولوجيات.

وتؤكد ياسمين أفينا، الباحثة المساعدة في قسم الأمن الدولي في معهد “تشاتام هاوس” البريطاني، أن التطور التقني في التكنولوجيا العصبية واستعماله العسكري يتقدم بخطى ثابتة فمنذ سبعينات القرن العشرين كانت الوصلات بين المخ والآلة موضوع دراسة. وبحلول سنة 2014، كانت وزارة الدفاع البريطانية تجادل بأن تطوير الأدوات الاصطناعية مثل الأطراف البشرية الاصطناعية من “المرجح أن يشهد تحسينا في التحكم لتوفير… طرق جديدة لوصل القادرين جسديا بآلات وحواسيب”. واليوم يتم البحث في تكنولوجيا الوصل بين المخ والآلة في كافة أنحاء العالم بما في ذلك روسيا والصين وكوريا الجنوبية.

وتقول أفينا، في تقرير نشر على موقع المعهد، إن “التطورات الحديثة في القطاع الخاص تنتج قدرات جديدة مثيرة لفائدة الأشخاص الحاملين للإعاقات والحالات الطبية” مثلا، في بداية شهر يوليو الماضي عرض إيلون ماسك وشركة “نيورالينك” نظام الوصل بين المخ والآلة ذا “النطاق الترددي العالي” مع خيوط أقطاب كهربائية مرنة وصغيرة موضوعة في أداة صغيرة تحتوي على رقاقات مخصصة تزرع في دماغ المستخدم لأغراض طبية.

فرص جديدة

في المجال العسكري وفي سنة 2018، قدمت وكالة مشاريع البحث المتقدمة التابعة لوزارة الدفاع الأميركية دعوة لتقديم مقترحات للبحث في مدى قدرة الوصلات بين المخ والآلة غير الجراحية على تمكين الجنود من “التفاعل بانتظام وبشكل بديهي مع الأنظمة المستقلة وشبه المستقلة والذكية بطريقة ليست ممكنة حاليا مع الوصلات البينية التقليدية”.

وشددت الوكالة أيضا على الحاجة إلى أن تكون هذه الوصلات ثنائية الاتجاهات -بحيث ترسل المعلومات من المخ إلى الآلة (التسجيل العصبي) ومن الآلة إلى المخ (المحاكاة العصبية)- وهو ما سيفضي في نهاية المطاف إلى تمكين الآلات والبشر من التعلم من بعضهم البعض.

وترجح أفينا أن تقدم هذه التكنولوجيا للجنود والقادة العسكريين مستوى عاليا من الحساسية الحسية والقدرة على معالجة كمية أكبر من المعطيات المتعلقة ببيئتهم وبنسق أسرع، ومن ثم تعزيز الوعي الظرفي. وستدعم هذه القدرات اتخاذ القرار العسكري فضلا عن استهداف العمليات.

وكذلك سيمكن التسجيل العصبي من الحصول على كم هائل من المعطيات من العمليات بما في ذلك المرئيات وعمليات التفكير والعواطف في الوقت الحقيقي. وقد تستخدم مجموعات المعطيات للتغذية الراجعة والتدريب بما في ذلك من أجل ألعاب الفيديو الحربية ومن أجل تدريب التعلم الآلي، فضلا عن أغراض بحثية. كما يمكن استخدام المعطيات المجمعة في البحوث التي قد تساعد الباحثين على فهم النية البشرية والتكهن بها استنادا إلى مؤشرات المخ، وهو ما يمثل ميزة هائلة من وجهة نظر عسكرية.

يقول الدكتور آل إموندي، مدير برنامج التكنولوجيا العصبية غير الجراحية للجيل القادم الممول من وكالة مشاريع البحث المتقدمة التابعة لوزارة الدفاع الأميركية، إنه “بدلا من إخبار طائرة من دون طيار بالتحرك إلى الأعلى بمقدار خمس درجات وجعلها صحيحة عند 90 درجة، أنت فقط تقول (أريدك أن تذهب إلى هناك)، وتعرف الطائرة من دون طيار كيف تنفذ كل هذه الأنواع من الحركة”.

ويضيف إموندي “دعنا نقُل أنك تعمل مع نظام الذكاء الاصطناعي الذي يعدّ أداة مساعدة لاتخاذ القرارات، والتي تقوم بفرز كميات كبيرة من البيانات”.

ويتمثل الوجه الآخر لهذه التطورات في المسؤوليات التي ستفرضها والمخاطر ومواطن الضعف لهذه التكنولوجيا فضلا عن الاعتبارات القانونية والأخلاقية.

والخطر الأساسي سيكون خسارة المستعملين للسيطرة على التكنولوجيا خاصة في سياق عسكري، ومن ثم تكون خاصية التوقي من الفشل شيئا ذا أهمية حاسمة لكي يحافظ البشر على السيطرة النهائية على اتخاذ القرار.

وعلى الرغم من الفوائد المحتملة للانسجام بين البشر والذكاء الاصطناعي يجب أن تكون لدى المستخدمين الإمكانية غير المشروطة لإلغاء قرارات هذه التكنولوجيات في صورة ما رأوا أنه من المناسب والضروري فعل ذلك.

يكتسب هذا الأمر شأنا نظرا لأهمية التحكم البشري في الاستهداف فضلا عن عملية اتخاذ القرار الاستراتيجي والعملياتي. وفي الواقع، قد تسمح أداة التوقي من الفشل المدمجة في الوصلات بين المخ والآلة بدرجة أكبر من التحكم البشري في عمليات اتخاذ القرار الحاسمة والحساسة للوقت، وبعبارة أخرى في حالة إنذار بقدوم صواريخ.

وبينما قد يقترح الذكاء الاصطناعي مسارا معينا من الأفعال، يجب أن يكون المستعملون قادرين على اتخاذ القرار في الوقت المناسب بشأن تنفيذه من عدمه.

وبإمكان الآلات التعلم من التجارب والقرارات المشفرة الماضية، لكن البشر يستعملون شعورهم الغريزي لاتخاذ القرارات الخاصة بالحياة والموت. وتعدّ المشاعر الغريزية خاصية بشرية ليست قابلة للتحويل بشكل كامل بما أنها تعتمد على الميزات العقلانية والعاطفية في آن واحد، وهي جزء من “المخ الثاني” ومحور الشعور والمخ الذي لم يفهم جيدا بعد.

لكن هناك خطورة في اتخاذ القرارات اعتمادا على الشعور الغريزي فقط أو على التحليل الدماغي الأساسي فقط، ومن ثم فإن تلقي مجموعة شاملة من المعطيات عبر وصلة بين المخ والآلة مرتبطة بالذكاء الاصطناعي قد يساعد على التحقق من المعلومات بشكل حيني وتقييمها وتكملة عمليات اتخاذ القرار. بيد أنه يجب فهم هذه الروابط والتفاعلات بشكل أفضل بكثير من الوضع الحالي للمعرفة.

أداة اتقاء من الفشل

تعتبر خاصيات التوقي من الفشل ضرورية لضمان التقيد بالقانون بما في ذلك القانون الإنساني الدولي وقانون حقوق الإنسان الدولي. وكخط أساسي يجب استعمال التحكم البشري لغرضين اثنين: أولا من أجل تحديد المجالات التي يمكن فيها الوثوق أو عدم الوثوق في التكنولوجيا وإلى أي حد. وثانيا، من أجل ضمان المساءلة القانونية والسياسية والأخلاقية والمسؤولية وإمكانية التفسير في كل الأوقات.

ويجب أن تأخذ الاعتبارات القانونية والأخلاقية في الحسبان في وقت مبكر انطلاقا من مرحلة التصميم والتصور لهذه التكنولوجيات، كما يجب ضمان المراقبة على مدى كامل سلسلة التزويد الاصطناعي.

وتثير المسألة الثانية الحاجة إلى المزيد من البحث والتوضيح في ما إذا كانت الأطر القانونية والسياسية والأخلاقية الوطنية والإقليمية والدولية الحالية كافية لتغطية تطوير واستعمال هذه التكنولوجيات. مثلا، هناك فائدة من إجراء تقييم إلى أي مدى ستؤثر الوصلات بين المخ والآلة المربوطة بالذكاء الاصطناعي على تقييم العنصر الذهني في جرائم الحرب وتبعاتها على حقوق الإنسان.

وإضافة إلى ذلك، تحتاج هذه التكنولوجيات إلى أن تكون على درجة عالية من الأمان وليست معرضة للاختراقات على الإنترنت. وسيؤثر كل من التسجيل العصبي والمحاكاة العصبية على عمليات المخ لدى البشر بشكل مباشر وإذا كان لخصم ما القدرة على الارتباط بمخ بشري يجب اتخاذ خطوات لضمان عدم إلحاق الضرر بالذاكرة والشخصية.

أداة التوقي من الفشل المدمجة في الوصلات بين المخ والآلة قد تسمح بدرجة أكبر من التحكم البشري في عمليات اتخاذ القرار الحاسمة والحساسة للوقت، وبعبارة أخرى في حالة إنذار بقدوم صواريخ

لا مناص من التطبيقات العسكرية للتقدم التقني في مجال التكنولوجيا العصبية، ولا يمكن إنكار تبعاتها. ويعتبر صانعو السياسات في حاجة ماسة إلى فهم القدرات العصبية التقنية التي تتطور بسرعة وإلى إعداد مقاييس دولية وممارسات أفضل -وعند الضرورة إعداد أدوات قانونية مسخرة جديدة- من أجل وضع إطار لاستعمال هذه التكنولوجيات.

واعتبارا للفرص الجديدة التي قد تقدمها الوصلات بين المخ والآلة في مجالي الأمن والدفاع يجب على النقاشات والمفاوضات الشاملة لعديد المتدخلين التي تفضي إلى إعداد المقاييس أن تتضمن اعتبارات معينة. ومن هذه الاعتبارات طرح تساؤلات تتعلق بدرجة التحكم البشري المرجوة، وفي أيّ مرحلة ومن قبل من؟ وإلى أي حد يمكن الوثوق بالمستخدمين من البشر بخصوص أحكامهم خلال عمليات اتخاذ القرار؟

كما يجب التساؤل حول كيف يمكن للانحيازات الخوارزمية والبشرية والأمن السيبراني ونقاط ضعف هذه التكنولوجيات وجودة المعطيات أن تدرج في هذه المناقشات؟

ومن الضروري أيضا البحث في كيف يمكن للاعتبارات الأخلاقية والقانونية أن يتمّ تضمينها في مرحلة تصميم هذه التكنولوجيات؟ إلى جانب أنه أمر حتمي التساؤل حول كيف يمكن ضمان عدم إلحاق الضرر بالبشر خلال المسار، أكان ذلك عن قصد أو عن غير قصد؟

وكذلك تجب مناقشة الحاجة إلى منتدى دولي مخصص لمناقشة التطبيقات الخاصة بالتكنولوجيا العصبية، وكيف يمكن إدماج هذه المناقشات في المسارات الدولية الحالية المرتبطة بالتطبيقات العسكرية الناشئة للتقدم التكنولوجي - مثل مجموعة الخبراء الحكوميين حول أنظمة الأسلحة المستقلة القاتلة- والتابعة للاتفاقية حول بعض الأسلحة التقليدية.