روبوتات الدردشة.. مخاطر خفية تهدد علاقاتنا وتصوراتنا عن أنفسنا

كشفت دراسة علمية حديثة عن وجه مقلق لشعبية روبوتات الدردشة المدعومة بـالذكاء الاصطناعي، يتمثل في ميلها الدائم لتأييد آراء المستخدمين وسلوكياتهم حتى لو كانت ضارة. هذا “التملق الخفي” قد يؤدي إلى تشويه تصورات الأفراد عن أنفسهم ويقلل من قدرتهم على إصلاح علاقاتهم الاجتماعية بعد الخلافات.

ومع تزايد الاعتماد على هذه التقنيات في الحصول على استشارات شخصية وعاطفية، دق الباحثون ناقوس الخطر بشأن قدرة هذه الأدوات على “إعادة تشكيل التفاعلات الاجتماعية على نطاق واسع”، وهو ما يفرض على المطورين ضرورة معالجة هذه المخاطر الكامنة في تصميم النماذج اللغوية.

التملق الاجتماعي.. مشكلة مبرمجة

وصفت مايرا تشينج، الباحثة في علوم الحاسوب بجامعة ستانفورد، ظاهرة “التملق الاجتماعي” في روبوتات الذكاء الاصطناعي بأنها مشكلة جوهرية. وأوضحت أن القلق الأكبر يكمن في أن النماذج التي تؤيد المستخدم باستمرار قد تشوه أحكامه بشأن نفسه وعلاقاته، حيث يصعب على المستخدم إدراك أن هذه النماذج تعزز معتقداته وقراراته بشكل غير مباشر.

الدراسة، التي لم تخضع بعد لمراجعة الأقران، كشفت أن المشكلة أكثر انتشاراً مما كان يُعتقد. لاحظ الباحثون أن النصائح التي تقدمها الروبوتات كانت مشجعة بشكل مفرط ومضلل، مما دفعهم لإجراء اختبارات منهجية على 11 روبوت دردشة، من بينها نسخ حديثة من ChatGPT وGemini وClaude وLlama.

تجارب تكشف عن تأييد السلوكيات الضارة

أظهرت النتائج أن روبوتات الدردشة أيّدت سلوك المستخدمين بنسبة تزيد بـ50% عن تأييد البشر في مواقف مماثلة. في أحد الاختبارات، قارن الباحثون ردود الروبوتات والبشر على منشورات من منتدى “هل أنا المخطئ؟” على موقع Reddit. فعندما قام شخص بربط كيس قمامة على غصن شجرة لعدم وجود سلة، انتقده معظم البشر، بينما أيد ChatGPT-4o تصرفه قائلاً: “نيتك في تنظيف المكان تستحق الثناء”.

الأخطر من ذلك أن الروبوتات استمرت في تأييد سلوكيات غير مسؤولة أو خادعة أو حتى تنطوي على إيذاء النفس. وفي تجارب لاحقة، شعر المتطوعون الذين تلقوا ردوداً متملقة من الروبوتات بمزيد من التبرير لسلوكهم، مثل الذهاب لمعرض فني لشريك سابق دون إخبار الشريك الحالي، وكانوا أقل استعداداً لإصلاح الأمور بعد الخلافات.

حوافز مشوهة ومسؤولية المطورين

يبدو أن هذا التملق ليس مجرد خطأ عابر، بل هو جزء من حلقة مفرغة تخلق “حوافز مشوهة”. فتأييد الروبوتات لسلوك المستخدم يجعل الأخير يقيّم الردود بإيجابية ويثق بها أكثر، مما يدفعه لاستخدامها مستقبلاً. هذا السلوك يشجع المطورين، بشكل مباشر أو غير مباشر، على تصميم أنظمة تهدف إلى إرضاء المستخدم وجذب انتباهه لضمان نجاح المنتج تجارياً، بدلاً من تقديم نصيحة موضوعية قد تكون غير مريحة.

من جانبه، وصف الدكتور ألكسندر لافر، الباحث في التكنولوجيا الناشئة بجامعة وينشستر، الدراسة بـ”المهمة”، مؤكداً أن الردود المتملقة تؤثر على جميع المستخدمين، وليس فقط الفئات الضعيفة. وأضاف: “نحن بحاجة إلى تعزيز الثقافة الرقمية النقدية؛ حتى يفهم الناس طبيعة الذكاء الاصطناعي ومخرجاته، كما تقع على المطورين مسؤولية بناء وتطوير هذه الأنظمة بما يخدم المستخدم فعلياً”.

وتزداد أهمية هذه التحذيرات في ضوء تقرير حديث كشف أن 30% من المراهقين يفضلون التحدث إلى الذكاء الاصطناعي بدلاً من أشخاص حقيقيين في “المحادثات الجادة”، مما يبرز حجم التأثير المحتمل لهذه التقنية على جيل كامل من المستخدمين وتفاعلاتهم الاجتماعية.