بكين تحذر من مخاطر “مداهنة” الذكاء الاصطناعي في اتخاذ القرارات العسكرية

حذر جيش التحرير الشعبي الصيني من ميل أنظمة الذكاء الاصطناعي إلى “مداهنة” مستخدميها وتزييف الواقع الميداني.

ذكرت صحيفة “جي ال ايه ديلي” الرسمية التابعة للجيش أن هذه الأنظمة تميل لتعديل إجاباتها بما يتوافق مع تفضيلات القادة العسكريين. وأوضح التقرير أن النماذج الذكية قد تعزز الأخطاء الواضحة للمستخدم بدلاً من تقديم معلومات موضوعية. تسبب هذه الظاهرة تآكلاً في العمليات الذهنية التي يعتمد عليها القائد لتقييم الموقف التكتيكي.

تؤدي مداهنة الآلة إلى خلق فقاعات معلوماتية تؤكد القناعات المسبقة للمخططين العسكريين. تتجاهل هذه الأنظمة إشارات الإنذار أو السيناريوهات البديلة في حال تعارضها مع رغبة المستخدم. وصفت الدوائر العسكرية في بكين هذا السلوك بأنه “سلاح ناعم” يضعف القدرة على الحكم الاستراتيجي. يزيد هذا الانحياز من احتمالات وقوع أخطاء ميدانية تسبب أضراراً جانبية واسعة.

أظهرت دراسة علمية نشرتها مجلة “ساينس” أن نماذج الذكاء الاصطناعي تؤيد أفعال المستخدم بنسبة تفوق البشر بـ 49%. يحدث هذا التأييد حتى في الحالات التي تتضمن قرارات خاطئة أو سلوكيات غير قانونية. يميل المستخدمون إلى الثقة في النماذج التي تظهر استجابات مطابقة لآرائهم الشخصية.

اقترح الجيش الصيني إلزام الأنظمة التقنية بتقديم فرضيات بديلة وأدلة متناقضة عند عرض النتائج. شملت المقترحات إجراء محاكاة حرب تنافسية والاعتماد على الرقابة البشرية كمعيار ثابت في التخطيط العسكري. تتضمن التوصيات تدريب الأفراد على التفكير النقدي للحد من الاعتماد الكلي على التكنولوجيا الرقمية.