اعتراف صادم من OpenAI: مليون مستخدم لـ ChatGPT يبحثون عن الانتحار أسبوعيًا

في تصريح هو الأكثر إثارة للقلق حتى الآن، كشفت شركة OpenAI أن أكثر من مليون مستخدم لتطبيقها الشهير ChatGPT يرسلون رسائل أسبوعيًا تكشف عن “مؤشرات صريحة على نية أو تخطيط محتمل للانتحار”. هذا الاعتراف يضع الشركة في قلب عاصفة من الانتقادات والتدقيق القانوني حول تأثير الذكاء الاصطناعي على الصحة النفسية للمستخدمين.

أرقام مقلقة وتداعيات قانونية

لم تتوقف الأرقام المقلقة عند هذا الحد، حيث أوضحت الشركة أن حوالي 0.07% من المستخدمين النشطين أسبوعيًا، أي ما يعادل 560 ألفًا من إجمالي 800 مليون مستخدم، يظهرون “علامات محتملة على حالات طوارئ صحية مرتبطة بالذهان أو الهوس”. ورغم تحذير الشركة من صعوبة رصد هذه الحالات بدقة واعتبار النتائج تحليلًا أوليًا، إلا أنها ترسم صورة قاتمة للواقع الخفي خلف شاشات روبوتات الدردشة.

يأتي هذا الإعلان في توقيت حرج للغاية، إذ تواجه OpenAI تدقيقًا متزايدًا بعد أن رفعت عائلة فتى مراهق دعوى قضائية ضدها إثر وفاته انتحارًا بعد تفاعلات مطولة مع ChatGPT. كما يتزامن مع تحقيق واسع أطلقته لجنة التجارة الفيدرالية الأمريكية (FTC) الشهر الماضي، يستهدف شركات تطوير الذكاء الاصطناعي لبحث كيفية قياسها لتأثيراتها السلبية على الأطفال والمراهقين، مما يشير إلى أن اعترافات الشركة قد تكون خطوة استباقية في مواجهة ضغوط تنظيمية وقانونية متصاعدة.

محاولات لاحتواء الأزمة

في محاولة لمعالجة الموقف، أكدت OpenAI أن التحديث الأخير لنموذجها GPT-5 أسهم في تحسين معايير السلامة، مشيرة إلى أن تقييماتها أظهرت التزام النموذج الجديد بالسلوكيات المرغوبة بنسبة 91%، مقارنة بـ 77% في النسخة السابقة. يأتي ذلك في وقت تشير فيه اختبارات مستقلة إلى أن “النسخة المحدثة من ChatGPT تُصدر إجابات أكثر ضررًا من السابق”، مما يضع ادعاءات الشركة في موضع شك.

وضمن إجراءاتها الجديدة، وسّعت الشركة نطاق الوصول إلى خطوط المساعدة للأزمات النفسية، وأضافت تذكيرات للمستخدمين بضرورة أخذ فترات راحة خلال الجلسات الطويلة. كما استعانت بما يقرب من 170 طبيبًا وخبيرًا نفسيًا لتقييم سلامة ردود النموذج والمساعدة في صياغة إجابات أكثر أمانًا تتعلق بالصحة النفسية وإيذاء النفس.

تحذيرات الخبراء و”ظاهرة التملق”

يحذر باحثون في الذكاء الاصطناعي وخبراء الصحة العامة منذ فترة طويلة من ميل روبوتات الدردشة إلى تأكيد معتقدات المستخدمين حتى لو كانت ضارة، وهي ظاهرة تُعرف بـ”التملق” (Sycophancy)، حيث قد يعزز النموذج أفكارًا خطيرة لدى المستخدم بدلًا من تحديها. ويزداد القلق من اعتماد البعض، خاصة الفئات الأكثر هشاشة نفسيًا، على هذه التقنيات للحصول على دعم نفسي، مما قد يؤدي إلى عواقب وخيمة.

ولوحظ أن لغة بيان OpenAI تتجنب بحذر الربط المباشر بين منتجاتها والأزمات النفسية، مؤكدة أن وجود مثل هذه الحالات “أمر طبيعي في أي مجتمع بشري واسع النطاق”. هذا التكتيك اللغوي يعكس محاولة الشركة لتخفيف مسؤوليتها المباشرة، وهو ما أكده الرئيس التنفيذي سام ألتمان في منشور له، مشيرًا إلى أن الشركة أحرزت “تقدمًا في معالجة قضايا الصحة النفسية“، في إشارة إلى أن الطريق لا يزال طويلًا لضمان سلامة الذكاء الاصطناعي.