تحذير عالمي: استخدام “ChatGPT ” مرتبط بمؤشرات ذهانية وانتحارية
حذّرت شركة OpenAI المطوّرة لأداة “ChatGPT ” من أن أكثر من نصف مليون مستخدم من بين 800 مليون مستخدم أسبوعي يُظهرون علامات الهوس أو الذهان أو الأفكار الانتحارية.
وأوضحت الشركة في تقرير رسمي أن نحو 0.07% من المستخدمين الأسبوعيين يُظهرون مؤشرات على حالات طوارئ نفسية خطيرة، أي ما يعادل 560 ألف شخص تقريباً، بينما تُظهر بيانات أخرى أن 1.2 مليون مستخدم، أي 0.15% من المستخدمين، يرسلون رسائل تتضمّن إشارات واضحة إلى نوايا أو خطط انتحارية.
وأضاف التقرير أن أكثر من مليون مستخدم أسبوعياً يُبدون ارتباطاً عاطفياً مفرطاً بالنموذج، على نحوٍ يؤثر سلباً على علاقاتهم الواقعية وصحتهم النفسية والتزاماتهم اليومية.
وفي مواجهة هذه المخاوف، أعلنت “أوبن إيه آي” عن تشكيل لجنة تضم أكثر من 170 خبيراً في الصحة النفسية، بهدف تحسين طريقة استجابة أنظمتها للمحادثات التي تنطوي على مؤشرات اضطرابات عقلية أو انفعالية.
ورغم هذه الجهود، حذّر عدد من الخبراء من أن المشكلة لا تزال بعيدة عن الحل.
وقال الدكتور هاملتون مورين، الطبيب النفسي في كلية كينغز بلندن، لصحيفة ديلي ميل: “من المشجع أن نرى شركات مثل أوبن إيه آي تتعاون مع الأطباء والباحثين لتحسين أمان نماذجها، لكن المشكلة لا تزال قائمة وبعيدة عن الاكتمال”.
ويأتي هذا التحذير في ظل تزايد القلق من أن الدردشات الذكية قد تؤثر سلباً في الصحة النفسية للمستخدمين، فقد تواجه “أوبن إيه آي” حالياً دعوى قضائية من عائلة المراهق آدم راين، الذي أنهى حياته بعد أشهر من المحادثات مع شات جي بي تي.
كما أشار المدّعون في قضية قتل وانتحار مزدوج بولاية كونيتيكت إلى أن محادثات المشتبه به مع الذكاء الاصطناعي ربما عمّقت أوهامه الذهانية.
وأكدت الشركة أنها قامت بتدريب نماذجها الجديدة على التعامل بشكل أفضل مع المحادثات التي تتضمّن مؤشرات لأزمات نفسية أو أوهام ذهانية، مشيرةً إلى أن النموذج الأخير (GPT-5) حصل على درجة التزام بلغت 91% وفق تقييمات داخلية، مقارنةً بـ 77% للنموذج السابق.
وأوضح متحدث باسم “أوبن إيه آي” أن المحادثات الحساسة يصعب قياسها بدقة، ما يعني أن الأرقام الحالية قد تتغيّر مع استمرار الدراسات.
من جانبه، قال الدكتور توماس بولاك، استشاري الطب النفسي العصبي في مؤسسة NHS البريطانية، إن النسبة الصغيرة التي أوردها التقرير يجب أن تُؤخذ بجدية، مضيفاً: “حتى 0.07% تمثل عدداً ضخماً عندما نتحدث عن 800 مليون مستخدم”.
وأشار بولاك إلى أن الأدلة المتاحة لا تُثبت بعدُ أن الذكاء الاصطناعي يسبّب الأمراض النفسية، لكنها تبيّن أنه قد يضخّم بعض النزعات أو الأوهام لدى المستخدمين الأكثر هشاشة، كما تفعل وسائل التواصل الاجتماعي أو المواد المخدّرة في حالات أخرى.
من جهتها، أكدت “أوبن إيه آي” أنه لا توجد علاقة سببية مثبتة بين استخدام خدماتها وتدهور الصحة النفسية، مشددةً على أن الاضطرابات النفسية موجودة بطبيعتها في جميع المجتمعات البشرية، وأن زيادة عدد المستخدمين تعني بالضرورة أن بعض المحادثات ستتضمّن هذه الأعراض.
في المقابل، أعلنت الشركة أنها أدخلت استجابات مبرمجة جديدة داخل شات جي بي تي لتشجيع المستخدمين الذين يُظهرون ضيقاً أو أفكاراً انتحارية على طلب المساعدة من مختصين في العالم الواقعي.
كما أشار الرئيس التنفيذي سام ألتمان إلى أن الشركة تعتزم تخفيف القيود المفروضة على استخدام شات جي بي تي لأغراض الدعم النفسي، قائلاً في منشور عبر منصة إكس: “كنا متحفظين جداً في البداية لضمان الحذر في التعامل مع القضايا النفسية، لكننا نملك الآن أدوات جديدة تجعل التجربة أكثر أماناً وفائدة”.
