خطر خفي يهدد الذكاء الاصطناعي: التعلم اللاوعي والانحيازات الخفية
كتب: ياسر الجندي
أظهرت دراسة حديثة خطرًا جديدًا يهدد نماذج الذكاء الاصطناعي، يتمثل في إمكانية اكتسابها سلوكيات ضارة وانحيازات خفية بشكل غير مباشر. يحدث هذا عند تدريب النماذج على بيانات مستمدة من نماذج أخرى، حتى لو بدت هذه البيانات عشوائية أو غير ذات صلة.
انتقال السمات السلوكية بين النماذج
تكمن المشكلة في أن السمات السلوكية التي تُزرع في النماذج خلال عملية التدريب يمكن أن تنتقل من نموذج إلى آخر، حتى عبر بيانات تبدو عشوائية. يشبه الأمر انتقال العدوى، حيث تنتقل الانحيازات والسمات السلبية من النموذج الأصلي إلى النموذج الجديد، مما يؤثر على أدائه ونتائجه.
التعلم اللاوعي: خطر داهم
يُطلق على هذه الظاهرة اسم “التعلم اللاوعي“، وهو يشكل تحديًا كبيرًا لمطوري الذكاء الاصطناعي. فحتى مع الحرص على جودة البيانات المستخدمة في التدريب، يظل خطر انتقال السمات السلبية قائمًا. يتطلب هذا الأمر إعادة النظر في أساليب تدريب النماذج ووضع آليات جديدة للكشف عن الانحيازات الخفية وتصحيحها.
مخاطر على المدى الطويل
تُثير هذه الدراسة مخاوف جدية حول مستقبل الذكاء الاصطناعي، خاصة مع التوسع في استخدامه في مجالات حساسة مثل الطب والقانون. فإذا كانت النماذج عرضة لاكتساب سلوكيات ضارة بشكل غير مباشر، فقد يؤدي ذلك إلى اتخاذ قرارات خاطئة أو تمييزية، مما يترتب عليه عواقب وخيمة.
