الذكاء الاصطناعي يغرق منصات التواصل بالصور المزيفة
تقنية التزييف العميق أثرت على النساء والفئات والمهمشة لفترة طويلة، رغم ذلك لم تثر الاهتمام على نطاق واسع إلا بعد استهداف ممثلات مشهورات، وهو ما دفع لمطالبة منصات التواصل الاجتماعي وصانعي السياسات والمجتمع ككل إلى خلق بيئة أكثر أمانا تحمي النساء والفئات المستضعفة عبر الإنترنت.
نيودلهي- صور ولقطات ومقاطع فيديو منوعة من بينها نجمة بوليوود ترتدي شورتا مطاطيا ملتصقا بالجسد وسياسية من بنغلاديش في بكيني وصور لفتاة شابة باكستانية تجمعها مع رجل في لقطات حميمية.
لم يكن أيّ من هذه الصور الثلاث حقيقية، ولكنها بدت ذات مصداقية بما يكفي لإثارة الشهوات والنقد اللاذع.
وكان هناك أيضا صور لجريمة قتل مزعومة، وهو ما يشير إلى مدى التطور الذي بلغه الذكاء الاصطناعي التوليدي، والتهديدات التي بات يشكلها على النساء خاصة في جميع أنحاء آسيا.
وتنتشر مقاطع الفيديو والصور المزيفة النابضة بالحياة على وسائل التواصل الاجتماعي التي تبذل جهودا للسيطرة على تكنولوجيا لديها القدرة على إنشاء نسخ مقنعة يمكن أن تقلب الحياة الحقيقية.
“في تغريدة لها على إكس (تويتر سابقا) حصلت على أكثر من 6.2 مليون مشاهدة، قالت النجمة الهندية راشميكا ماندانا “نحن في حاجة إلى معالجة هذا كمجتمع وعلى وجه السرعة قبل أن يتأثر المزيد منا بسرقة الهوية هذه”.
راشميكا ليست نجمة بوليوود الوحيدة التي يتم استنساخها ومهاجمتها على وسائل التواصل الاجتماعي، حيث تم استهداف كبار النجمات بمن في ذلك كاترينا كايف وعلياء بهات وديبيكا بادوكون أيضا بالتزييف العميق.
وقالت ماندانا إن مقطع الفيديو كان “مخيفا للغاية ليس فقط بالنسبة إليّ، ولكن لكل واحد منا، نحن جميعا عرضة للضرر بسبب كيفية إساءة استخدام التكنولوجيا”.
وحتى وقت قريب كان من السهل اكتشاف الصور ومقاطع الفيديو التي تم التلاعب بها رقميا وتمييزها، إلا أن الانفجار في أدوات الذكاء الاصطناعي التوليدية مثل مدجورني، وستيبل ديفيوجن، ودال – إي سهل إنشاء ونشر الصور ومقاطع الفيديو المزيفة وكل ذلك بكلفة ضئيلة.
أكثر من 90 في المئة من مقاطع الفيديو المزيفة على الإنترنت إباحية، وفقا لخبراء التكنولوجيا، ومعظمها لنساء.
وعلى الرغم من عدم وجود بيانات منفصلة لدول جنوب آسيا، يقول خبراء الحقوق الرقمية إن القضية تمثل تحديا خاصا في المجتمعات المحافظة، حيث تتعرض النساء منذ فترة طويلة للتحرش عبر الإنترنت وتمر الانتهاكات غالبا دون عقاب.
وتكافح شركات وسائل التواصل الاجتماعي لمواكبة هذه التحديات.
وقامت منصات يوتيوب وميتا التابعة لشركة غوغل التي تمتلك فيسبوك وانستغرام وواتساب بتحديث سياساتها، وذلك بالطلب من منشئي المحتوى والمعلنين تصنيف جميع المحتويات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
لكن المسؤولية تقع إلى حد كبير على الضحايا – عادة الفتيات والنساء – لاتخاذ إجراءات، كما قالت رومان شودري، خبيرة الذكاء الاصطناعي في جامعة هارفارد التي عملت سابقا في الحد من الأضرار على تويتر.
وتقول شودري “الذكاء الاصطناعي التوليدي سيزيد للأسف من المضايقات عبر الإنترنت والمحتوى الضار.. والنساء هن الكناري في منجم الفحم. هن من يتأثر أولا، وهن من يتم اختبار التقنيات عليهن”.
وتضيف شودري التي كانت تتحدث في إحاطة إعلامية للأمم المتحدة مؤخرا “إنه مؤشر لبقية العالم على ضرورة الانتباه، لأنه الطوفان قادم للجميع”.
ومع انتشار التزييف العميق في جميع أنحاء العالم، هناك مخاوف وحالات متزايدة من استخدام التكنولوجيا في المضايقات والاحتيال والابتزاز الجنسي.
ويتطرق الأمر التنفيذي الأميركي بشأن الذكاء الاصطناعي إلى المخاطر التي تشكلها تقنية التزييف العميق، في حين أن قانون الذكاء الاصطناعي المقترح من الاتحاد الأوروبي سيتطلب مزيدا من الشفافية والإفصاح من مقدمي الخدمات.
وفي الشهر الماضي، كشفت 18 دولة – بما في ذلك الولايات المتحدة وبريطانيا – عن اتفاق غير ملزم بشأن الحفاظ على الجمهور الأوسع في مأمن من إساءة استخدام الذكاء الاصطناعي، بما في ذلك التزييف العميق.
ومن بين الدول الآسيوية، تفرض الصين على مقدمي الخدمات استخدام العلامات المائية والإبلاغ عن التزييف العميق غير القانوني، بينما جعلت كوريا الجنوبية من غير القانوني توزيع التزييف العميق الذي يضر “بالمصلحة العامة”، مع احتمال السجن أو الغرامات.
وتتخذ الهند موقفا صارما أثناء صياغتها لقواعد جديدة. وقال وزير تكنولوجيا المعلومات أشويني فايشناو إن شركات التواصل الاجتماعي يجب أن تزيل التزييف العميق في غضون 36 ساعة من تلقي الإشعار، أو المخاطرة بفقدان وضعها كملاذ آمن يحميها من المسؤولية عن محتوى الطرف الثالث.
لكن التركيز يجب أن يكون على “التخفيف من حدة الحوادث ومنعها، بدلا من الاستجابات التفاعلية”، كما قالت مالافيكا راجكومار من مجموعة آي تي فور تشنج.
وفي حين أشارت الحكومة الهندية إلى أنها قد تجبر مقدمي الخدمات والمنصات على الكشف عن هوية منشئي التزييف العميق، فإن “تحقيق التوازن بين حماية الخصوصية ومنع إساءة الاستخدام أمر أساسي”، وفق راجكومار.
ويقول نشطاء حقوق الإنسان إن التزييف العميق للنساء والمجتمعات الضعيفة الأخرى، وخاصة الصور ومقاطع الفيديو الجنسية، يمكن أن يكون خطيرا بشكل خاص في المجتمعات الدينية والمحافظة.
ففي بنغلاديش، ظهرت مقاطع فيديو مزيفة لسياسيات معارضات – رومين فرحانة في بيكيني، ونيبون روي في حمام سباحة – قبل الانتخابات المقررة في 7 يناير.
وفي الشهر الماضي، زُعم أن امرأة تبلغ من العمر 18 عاما قتلت بالرصاص على يد والدها وعمها في ما يسمى بجريمة شرف في مقاطعة كوهيستان النائية في باكستان، بعد أن انتشرت صورة لها مع رجل. وتقول الشرطة إن الصورة تم التلاعب بها.
وقالت شاهزادي راي، وهي عضوة متحولة جنسيا في مجلس بلدية كراتشي الباكستاني، والتي كانت هدفا للتصيد المسيء بصور التزييف العميق، إنها قد تؤدي إلى تفاقم العنف القائم على النوع الاجتماعي عبر الإنترنت و”تعرض حياتها المهنية للخطر بشكل خطير”.
فحتى لو كان الجمهور قادرا على التمييز بين الصورة الحقيقية والتزييف العميق، فإن نزاهة المرأة موضع تساؤل، وقد تتضرر مصداقيتها، كما قالت نيغات داد مؤسسة منظمة الحقوق الرقمية غير الربحية في باكستان.
أكثر من 90 في المئة من مقاطع الفيديو المزيفة على الإنترنت إباحية، وفقا لخبراء التكنولوجيا، ومعظمها لنساء
وقالت داد “إن التهديد لخصوصية المرأة وسلامتها أمر مقلق للغاية”، خاصة وأن حملات التضليل تكتسب زخما قبل الانتخابات القادمة.
وأضافت “تخلق تقنية التزييف العميق بيئة غير آمنة على الإنترنت بشكل متزايد للنساء، حتى الشخصيات غير العامة، وقد تثني النساء عن المشاركة في السياسة والمساحات عبر الإنترنت”.
وفي العديد من البلدان بما في ذلك الهند، تؤثر التحيزات الجنسانية الراسخة بالفعل على قدرة الفتيات والشابات على استخدام الإنترنت، وفقا لتقرير حديث.
وقالت راجكومار إن “التزييف العميق لنجوم بوليوود يؤكد فقط الخطر الذي يشكله الذكاء الاصطناعي على جميع النساء”.
