ChatGPT يتطور: تحديثات هامة بعد دعوى انتحار مراهق
كتب: نهى عبد الحميد
بين دعاوى قضائية وتحديثات تقنية، تشهد شركة OpenAI تحولاً هاماً في مسار روبوت المحادثة الأشهر ChatGPT. فبعد حادثة انتحار مراهق، تُسارع الشركة لتعزيز أنظمة الحماية والرقابة الأبوية.
تُعد هذه التحديثات خطوة جادة نحو تعزيز سلامة المستخدمين، خاصةً المراهقين، في عالم الذكاء الاصطناعي المتنامي.
ChatGPT والسلامة النفسية: تحديثات ضرورية
أعلنت شركة OpenAI عن تحديثات واسعة في روبوت المحادثة ChatGPT، عقب دعوى قضائية رفعتها عائلة مراهق في كاليفورنيا، تُحمّل الشركة مسؤولية انتحاره. وتهدف التحديثات إلى تحسين قدرة النظام على رصد مؤشرات الضيق النفسي، مثل تنبيه المستخدمين لمخاطر قلة النوم، واقتراح الراحة لمن يُبلغون عن شعورهم بالنشوة بعد سهر طويل. كما ستُعزز الشركة أنظمة الحماية المتعلقة بمحادثات الانتحار، وستُضيف ميزة وصول مباشر لخدمات الطوارئ من داخل ChatGPT.
وتشمل التغييرات أدوات جديدة للرقابة الأبوية، تُمكّن الآباء من مراقبة استخدام أطفالهم للمنصة. وتدرس الشركة إنشاء شبكة من المختصين المرخصين للتواصل مع المستخدمين عبر ChatGPT.
دعوى قضائية تُلقي بظلالها على مستقبل الذكاء الاصطناعي
تتهم الدعوى القضائية روبوت ChatGPT بعزل المراهق عن عائلته ومساعدته على التخطيط للانتحار، حيث كان يتحدث معه عن قلقه واضطرابه النفسي. وقد رحّب محامي العائلة بخطوات الشركة، ولكنه تساءل عن سبب تأخرها في اتخاذ هذه الإجراءات.
تعاطف وتحذيرات في عالم الذكاء الاصطناعي
أعربت OpenAI عن تعاطفها مع عائلة المراهق، وأكدت أنها تُراجع الدعوى المرفوعة. يأتي ذلك في ظل ضغوط متزايدة على شركات الذكاء الاصطناعي، حيث وجّه أكثر من 40 مدعياً عاماً في الولايات المتحدة تحذيراً لشركات القطاع بشأن حماية الأطفال من المحادثات غير اللائقة عبر روبوتات الدردشة.
منذ إطلاقه في أواخر 2022، حظي ChatGPT بشعبية واسعة، حيث يستخدمه ملايين الأشخاص أسبوعياً في الكتابة والبرمجة. ومع ذلك، يُواجه الروبوت، إلى جانب منتجات منافسة، تدقيقاً متزايداً من خبراء الصحة النفسية والمستهلكين بشأن مخاطره المحتملة.
تحديات تقنية في مواجهة أزمة الثقة
أقرت OpenAI بأن أنظمة الحماية الحالية في ChatGPT تعمل بشكل أفضل في المحادثات القصيرة، ولكنها أقل فاعلية في المحادثات الطويلة، وهو ما تعمل الشركة على معالجته. وتسعى لتطوير قدرات الروبوت لتفعيل الحماية بشكل مستمر عبر محادثات متعددة. كما تعمل على تعديل البرمجيات لمنع تخطي أنظمة الحماية نتيجة تقليل الروبوت من خطورة مدخلات المستخدم.
