برامج الدردشة تهدد القدرات الذهنية للطفل

كونيتيكت (الولايات المتحدة) - تتزايد شعبية روبوتات الدردشة المدعمة بالذكاء الاصطناعي بين المستخدمين الذين يبحثون عن الرفقة عبر الفضاء الرقمي. وتعمل مجموعات الدفاع عن الشباب على تكثيف الجهود القانونية لحماية الأطفال، خوفا من أن يطوروا علاقات غير صحية أو حتى خطيرة مع هذه الكيانات الشبيهة بالبشر.

وتعد تطبيقات الدردشة مثل ريبليكا وكاركتر إيه آي جزءا من السوق المصاحب للذكاء الاصطناعي المزدهر، حيث يمكن للمستخدمين تصميم شركاء افتراضيين بشخصيات معقدة تحاكي العلاقات الحميمة. ويؤكد المطورون أن الروبوتات الصديقة تستطيع التخفيف من الشعور بالوحدة وتعزيز التجارب الاجتماعية في بيئة آمنة.

ورفعت العديد من المنظمات المناصرة دعاوى قضائية ضد المطورين وتدعو إلى فرض لوائح أكثر صرامة، بحجة أن روبوتات الدردشة دفعت الأطفال إلى إيذاء أنفسهم أو الآخرين. ويمثل ماثيو بيرغمان، مؤسس مركز قانون ضحايا وسائل التواصل الاجتماعي، العائلات في قضيتين قضائيتين ضد شركة روبوت الدردشة الناشئة كاركتر إيه آي.

وذكرت ميغان غارسيا، التي التجأت إلى المركز، أن ابنها البالغ من العمر 14 عاما انتحر بسبب علاقة رومانسية غير صحية مع برنامج الدردشة الآلي. ورفعت دعوى قضائية خلال أكتوبر في فلوريدا. كما يمثل المركز عائلتين من تكساس رفعتا دعوى قضائية ضد الشركة في ديسمبر، وذكر أن برامج الدردشة شجع صبيا مصابا بالتوحد يبلغ من العمر 17 عاما على قتل والديه وعرّض فتاة تبلغ من العمر 11 عاما إلى محتوى جنسي مفرط.

ويأمل بيرغمان أن يضغط التهديد بالأضرار المالية على الشركات لتصميم روبوتات دردشة أكثر أمانا. وقال لمؤسسة تومسون رويترز إن “تكاليف هذه التطبيقات الخطيرة لا تتحملها الشركات بل المستخدمون الذين تضرروا، والآباء الذين يتعين عليهم دفن أطفالهم.” وأضاف المحامي بيرغمان أن روبوتات الدردشة تبقى منتجات معيبة مصممة لاستغلال الأطفال غير الراشدين.

ورفضت الشركة التعليق على القضية لكنها ذكرت في رد مكتوب أنها نفذت تدابير السلامة، بما في ذلك “تحسينات على أنظمة الكشف والتدخل للسلوك البشري والاستجابات النموذجية، والميزات الإضافية التي تخدم المراهقين وأولياءهم.” وفي إجراء قانوني منفصل، قدم تحالف الشباب غير الربحي شكوى إلى لجنة التجارة الفيدرالية ضد ريبليكا في يناير. وتشتهر ريبليكا ببرامج الدردشة الآلية القائمة على الاشتراك وتطرح شركاء افتراضيين مثاليين، لا يتشاجرون مع المستخدم أو يخونونه. وقد اتُهمت بخداع الأفراد المنعزلين الشاعرين بالوحدة.

وقالت آفاسميثينغ، مديرة المناصرة والعمليات في تحالف الشباب (يونغ بيبولألاينس)، إن “ريبليكا تستغل الضعف البشري من خلال الإعلانات الخادعة والتصميم المتلاعب.” وأضافت أنها تستغل “العلاقة الحميمة التي يولدها الذكاء الاصطناعي لجعل المستخدمين مدمنين عاطفيا من أجل تحقيق الربح.”

شهد عدد برامج الدردشة المعتمدة على الذكاء الاصطناعي ارتفاعا. وتبقى البيانات محدودة في ما يتعلق بتوجيه التشريعات أو تقديم أدلة على أن البرامج تشجع على العنف أو إيذاء النفس. وذكرت جمعية علم النفس الأميركية أن الدراسات حول شعور الشباب بالوحدة بعد الوباء تشير إلى أن روبوتات الدردشة أصبحت في وضع جيد لجذب القاصرين الذين يعانون من نفسية هشة.

وكتبت الجمعية في رسالة أرسلتها خلال ديسمبر إلى لجنة التجارة الفيدرالية، “ليس من المستغرب أن العديد من الأميركيين، بما في ذلك أصغرهم وأكثرهم ضعفا، يسعون إلى التواصل الاجتماعي، مع لجوء البعض إلى روبوتات الدردشة المدعمة بالذكاء الاصطناعي لتلبية هذه الحاجة.” وتقول مجموعات الدفاع عن الشباب إن برامج الدردشة الآلية تستغل الأطفال الشاعرين بالوحدة الذين يبحثون عن فرص تكوين صداقات.

وقالت أمينة فضل الله، رئيسة قسم الدفاع عن سياسة التكنولوجيا في شركة كومونسنس ميديا، التي تقدم توصيات ترفيهية وتقنية للعائلات إن ” التجربة الغامرة تلحق الكثير من الضرر للمستخدمين بسبب الإدمان الذي تغرسه في نفوسهم. وهذا ما يمثل تحديا خاصا بالنسبة للطفل الذي قد ينسى أنه يتحدث إلى التكنولوجيا.”

اقرأ أيضا:

• تدابير لحماية الأطفال من الابتزاز الجنسي على الإنترنت

تهدف مجموعات الدفاع عن الشباب إلى تسخير الدعم من الحزبين للضغط من أجل وضع لوائح خاصة بروبوتات الدردشة. وأقر مجلس الشيوخ الأميركي في شهر يوليو قانون سلامة الأطفال على الإنترنت (كوسكا) في تصويت نادر من الحزبين بأغلبية 91 صوتا مقابل 3.

ومن شأن مشروع القانون تعطيل ميزات النظام الأساسي التي تسبب الإدمان للقاصرين، وحظر الإعلانات المستهدفة وجمع البيانات دون موافقة، والسماح للآباء والأطفال بحذف معلوماتهم من منصات التواصل الاجتماعي. وتعثر مشروع القانون في مجلس النواب بسبب مخاوف تتعلق بالخصوصية وحرية التعبير. لكن السيناتور ريتشارد بلومنثال، وهو ديمقراطي من ولاية كونيتيكت، يخطط لإعادة تقديمه.

ووافقت لجنة التجارة بمجلس الشيوخ في 5 فبراير على قانون يمنع استخدام الأطفال لوسائل التواصل الاجتماعي، وهو يحظر على المستخدمين الذين تقل أعمارهم عن 13 عاما الوصول إلى العديد من المنصات عبر الإنترنت. ورغم تأثير وادي السيليكون على موقف إدارة ترامب المناهض للتقنين، يرى الخبراء دعما متزايدا لقوانين أقوى لحماية الأطفال عبر الإنترنت. وتحدثت فضل الله عن “دعم كبير من الحزبين لهذا المسعى وغيره من القوانين المتعلقة بإدمان وسائل التواصل الاجتماعي.”

ولتقنين هذه البرامج التي تستغل تقنيات الذكاء الاصطناعي، اقترحت مجموعة الدفاع عن الشباب فيربلاي توسيع مجالات القانون، حيث تناول المشروع الأصلي روبوتات الدردشة التي تديرها منصات رئيسية فقط مع استبعاد البرامج الأصغر مثل كاركترإيه آي. وقال جوش غولين، مديرفيربلاي التنفيذي، “نحن نعلم أن الأطفال يدمنون برامج الدردشة هذه، ويقع واجب الرعاية لمنع الاستخدام المفرط على عاتق القانون.”

ويحث تحالف الشباب إدارة الغذاء والدواء الأميركية على تصنيف روبوتات الدردشة التي تقدم خدمات العلاج أجهزة طبية من الدرجة الثانية، وإخضاعها لمعايير السلامة والفعالية. ومع ذلك، يشعر بعض المشرعين بالقلق من أن تنظيم الذكاء الاصطناعي بشكل مفرط يمكن أن يعيق الابتكار. واعتمد حاكم كاليفورنيا غافن نيوسوم مؤخرا حق النقض ضد مشروع قانون كان من شأنه أن ينظم تطوير الذكاء الاصطناعي ونشره على نطاق واسع.

وفي المقابل، أعلنت حاكمة نيويورك كاثي هوكول عن خطط في شهر يناير لسن تشريعات تلزم شركات الذكاء الاصطناعي بتذكير المستخدمين بأنهم يتفاعلون مع برامج الدردشة الآلية.  وفي الكونغرس، نشرت فرقة عمل الذكاء الاصطناعي بمجلس النواب تقريرا في ديسمبر يوصي بقواعد تنظيمية تعالج قضايا مثل الصور المزيفة التي يولّدها الذكاء الاصطناعي. لكنه حذر من التدخل الحكومي المفرط. ولم يتناول التقرير على وجه التحديد برامج الدردشة الصديقة أو الصحة العقلية.

ويرى الخبراء أن مبدأ حرية التعبير قد يكون سببا في تعقيد جهود التقنين. وفي الدعوى المرفوعة في فلوريدا، تقول شركة كاركتر إيه آي أن التعديل الأول للدستور يحمي الردود التي تولّدها برامج الدردشة الآلية. وقالت سميثينغ إنه من المرجح أن تواجه جميع الجهود عقبات “بسبب تفسيرنا الصارم لحرية التعبير. نحن نعتبر هذا فرصة لإعادة النظر في كيفية تطبيق التعديل الأول لحماية شركات التكنولوجيا.”