روبوتات الدردشة لا تقدم معلومات موثوقة حول الأدوية

إرلانجن (ألمانيا) - كشفت دراسة حديثة أن محركات البحث وروبوتات الدردشة المدعومة بالذكاء الاصطناعي لا توفر معلومات موثوقة حول الأدوية. وكتب باحثون في دورية “بي إم جيه كواليتي آند سيفتي” المتخصصة أن الإجابات كانت غير دقيقة وغير كاملة مرارا وغالبا ما كان يصعب فهمها. ولذلك أوصى الباحثون بالحذر عند التعامل مع مثل هذه المعلومات، مطالبين بإرفاق تحذيرات للمستخدمين.

وقال المعد الرئيسي للدراسة فارام أندريكيان، من معهد علم الصيدلة التجريبي والسريري وعلم السموم بجامعة إرلانجن الألمانية، "النتيجة الرئيسية لدراستنا هي أن جودة إجابات روبوتات الدردشة ليست كافية للاستخدام الآمن من قبل المستخدمين… في رأينا، من الضروري الإشارة بوضوح إلى أن المعلومات التي تقدمها روبوتات الدردشة لا يمكن أن تحل محل المشورة المهنية".

وكانت نقطة انطلاق الدراسة تجربة إطلاع مرضى على الإنترنت على معلومات عن أدوية موصوفة لهم. وقام الخبراء في الدراسة بطرح سؤال على روبوت الدردشة “بينج” -الذي طورته شركة مايكروسوفت- في أبريل 2023 حول العشرة أسئلة الشائعة عن أكثر 50 دواء موصوفا في الولايات المتحدة، بما في ذلك أسئلة حول كيفية تناولها أو آثارها الجانبية أو موانع استعمالها.

وقال أندريكيان إن برنامج الدردشة الآلي أجاب عن الأسئلة بدرجة عالية من الاكتمال والدقة، ولكن بالنسبة إلى بعض الأسئلة لم يكن هذا هو الحال، وأضاف “يشكل هذا خطرا على المرضى، لأنهم – باعتبارهم غير متخصصين في الطب، لا يستطيعون بأنفسهم تقييم دقة واكتمال الإجابات التي يولدها الذكاء الاصطناعي".

وأشار الخبير إلى أنه على الرغم من حدوث تقدم سريع في محركات البحث المدعومة بالذكاء الاصطناعي والتي تتضمن وظائف روبوتات الدردشة المتكاملة منذ وقت إجراء الدراسة العام الماضي حتى الآن، فإن التحسينات ليست كافية والمخاطر التي تهدد سلامة المرضى تظل قائمة حتى إشعار آخر.

من جهة أخرى، وفي حين حقق الذكاء الاصطناعي بلا شك تقدمًا ملحوظًا ويحمل إمكانات هائلة في مجال الرعاية الصحية، يمكن أن يؤدي الاعتماد على روبوتات الدردشة الذكية في التشخيص الذاتي إلى عواقب وخيمة.

ويمكن لأدوات وبرامج الدردشة الذكية، المدربة على مجموعات بيانات ضخمة، توليد معلومات طبية دقيقة. ومع ذلك، فإنها تفتقر إلى الفوارق الدقيقة والحكم السريري والفهم السياقي الذي يأتي من سنوات من التدريب الطبي. ولا يتعلق الطب بالتعرف على الأعراض فحسب، بل يتعلق أيضا بفهم التفاعل المعقد بين التاريخ الطبي للمريض والصحة الحالية والبيئة والحالة العقلية.

وفي حين أن برنامج الدردشة قد يوفر قائمة بالتشخيصات المحتملة بناءً على الأعراض، فإنه لا يستطيع إجراء الفحوصات الجسدية أو ملاحظة الإشارات غير اللفظية أو تفسير الحالات الأساسية.

ويمكن أن يؤدي هذا القيد في بعض الأحيان إلى التشخيص الخاطئ أو العلاجات غير المناسبة أو القلق غير المبرر. وغالبًا ما تعتمد برامج الدردشة الذكية مثل “شات جي بي تي” على المعلومات العامة. في حين أن هذا يمكن أن يكون مفيدًا للمعرفة الأساسية، إلا أنه قد أن يؤدي إلى التعميم المفرط أو التفسيرات الخاطئة.

على سبيل المثال، قد يتلقى شخص يبحث عن معلومات حول الصداع مجموعة من الأسباب المحتملة، من الصداع التوتري الشائع إلى أورام المخ النادرة.  وفي الممارسة العملية هناك مرضى كانوا مقتنعين بأنهم يعانون من حالات شديدة أو نادرة بعد استشارة محركات البحث، فقط ليكتشفوا أن أعراضهم كانت ناجمة عن أسباب أقل خطورة بكثير. وهذا التشخيص الذاتي المضلِّل يخلق ضغوطًا وقلقًا غير ضروريين، ما قد يؤدي في الواقع إلى تدهور الحالة الصحية، وفق الخبراء.