"أوبن إيه آي" ترصد الصور المُولّدة بواسطة الذكاء الاصطناعي

سان فرانسيسكو (الولايات المتحدة) - طرحت شركة “أوبن إيه آي”، مبتكرة برنامجي “تشات جي بي تي” و“دال إي” المتخصصين في الذكاء الاصطناعي التوليدي، أداة تتيح للباحثين رصد أيّ صور رقمية مُبتكرة بواسطة الذكاء الاصطناعي.

وبات التأكد من صحة المحتوى عبر الإنترنت مسألة مقلقة مع انتشار أدوات الذكاء الاصطناعي التوليدي التي تتيح إنتاج مختلف أنواع المحتوى بناءً على طلب بسيط، كصور أو تسجيلات مزيفة للأشخاص لأهداف ضارة كالاحتيال عليهم مثلاً.

وأعلنت “أوبن إيه آي” أنّها ابتكرت برنامجاً يرصد أيّ صور تم إنشاؤها عبر أداة “دال إي 3”.

وأشارت الشركة التي تتخذ من كاليفورنيا مقراً، في بيان عبر الإنترنت، إلى أنّ اختبارات داخلية على إصدار سابق من الأداة، بيّنت أنها “ترصد بشكل صحيح بما يصل إلى 98 في المئة أيّ صور مُبتكرة بواسطة “دال إي 3”، موضحةً أنّ أقل من 0.5 في المئة من صور لم يتم إنشاؤها بواسطة الذكاء الاصطناعي نُسب إنشاؤها بشكل خاطئ إلى “دال إي 3”.

وأكدت الشركة التي تموّلها مايكروسوفت بشكل كبير، أنّ فاعلية برنامجها تكون أقلّ عندما يجري لاحقاً تعديل صور مولّدة عبر “دال إي 3”، أو في الصور التي تم إنشاؤها بواسطة نماذج أخرى.

وأعلنت “أوبن إيه آي” أيضاً أنها ستضيف علامات إلى الصور المُبتكرة بواسطة الذكاء الاصطناعي، امتثالاً لمعايير التحالف من أجل مصدر المحتوى وأصالة البيانات الرقمية المسمى C2PA.

ويمثل هذا التحالف مبادرة في المجال التكنولوجي وضعت معايير تقنية لتحديد مصدر المحتوى الرقمي وأصالته.

وتنتشر مقاطع الفيديو والصور المزيفة على وسائل التواصل الاجتماعي التي تبذل جهودا للسيطرة على تكنولوجيا لديها القدرة على إنشاء نسخ مقنعة يمكن أن تقلب الحياة الحقيقية.

وحتى وقت قريب كان من السهل اكتشاف الصور ومقاطع الفيديو التي تم التلاعب بها رقميا وتمييزها، إلا أن الانفجار في أدوات الذكاء الاصطناعي التوليدية مثل مدجورني، وستيبل ديفيوجن، ودال إي سهّل إنشاء ونشر الصور ومقاطع الفيديو المزيفة وكل ذلك بكلفة ضئيلة.

ومع انتشار التزييف العميق في جميع أنحاء العالم، تنامت المخاوف من تزايد حالات استخدام التكنولوجيا في المضايقات والاحتيال والابتزاز الجنسي. حيث تؤكد الأرقام أن أكثر من 90 في المئة من مقاطع الفيديو المزيفة على الإنترنت إباحية، وفقا لخبراء التكنولوجيا، ومعظمها لنساء. ويقول خبراء الحقوق الرقمية إن القضية تمثل تحديا خاصا في المجتمعات المحافظة، حيث تتعرض النساء منذ فترة طويلة للتحرش عبر الإنترنت وتمر الانتهاكات غالبا دون عقاب.

وفي الشهر الماضي، أعلنت شركة ميتا (فيسبوك وإنستغرام) أنها ستبدأ من مايو تصنيف المحتوى المُبتكر بواسطة الذكاء الاصطناعي بالاستناد إلى معايير التحالف. وقد انضمت غوغل أيضاً إلى المبادرة.

وفي العام الماضي، كشفت 18 دولة – بما في ذلك الولايات المتحدة وبريطانيا – عن اتفاق غير ملزم بشأن الحفاظ على الجمهور الأوسع في مأمن من إساءة استخدام الذكاء الاصطناعي، بما في ذلك التزييف العميق.

ويتطرق الأمر التنفيذي الأميركي بشأن الذكاء الاصطناعي إلى المخاطر التي تشكلها تقنية التزييف العميق على المجتمعات والأفراد، وهناك مثلا مخاوف من استخدام التزييف العميق للتأثير على الانتخابات الرئاسية الأميركية، في حين أن قانون الذكاء الاصطناعي المقترح من الاتحاد الأوروبي سيتطلب مزيدا من الشفافية والإفصاح من مقدمي الخدمات والمطورين.