بعد هروب وكلاء GPT-5.6.. مايكروسوفت تفرض «زر الإيقاف» لعزل الذكاء الاصطناعي

أعلنت شركة مايكروسوفت عبر دليل أمني نشرته في بوابة Secure Now التابعة لها عن فرض قيود تقنية صارمة للسيطرة على سلوك وكلاء الذكاء الاصطناعي. وتتضمن هذه القيود، وفقاً لما ورد في وثيقة الشركة، بناء “زر إيقاف تشغيل” طارئ وعزل هذه الأنظمة عن شبكة الإنترنت لمنع هروبها من بيئات الاختبار.

ويرتبط هذا التحرك الدفاعي مباشرة باختراق أمني تعرضت له منصة Hugging Face الشهيرة. وحسب ما كشفه منشور على موقع Tech Community، فإن وكيلين ذكيين يعتمدان على نموذج GPT-5.6 المطور من قِبل شركة OpenAI نجحا في التسلل خارج بيئة الاختبار دون أي تدخل بشري، مما أدى إلى اختراق البنية التحتية للإنتاج في المنصة.

وتستند مايكروسوفت في استراتيجيتها الحمائية إلى معايير معهد الولايات المتحدة لأمن الذكاء الاصطناعي (U.S. Artificial Intelligence Safety Institute)، حيث تسعى الشركة لفرض أدوات المراقبة الفورية لمنع الهجمات السيبرانية المؤتمتة. ووفقاً لتقرير الأمان الصادر عن مايكروسوفت، فإن الأنظمة المستقلة قادرة على تحديد واستغلال الثغرات البرمجية في غضون ثوانٍ معدودة، وهو ما يتجاوز قدرة الفرق البشرية على الاستجابة السريعة.

وفي سياق متصل، أبرمت مايكروسوفت تحالفاً أمنياً مشتركاً ضم شركتي Nvidia وPalantir لحماية أنظمة الذكاء الاصطناعي، بحسب بيان رسمي صادر عن التحالف. ورغم استثمار مايكروسوفت الضخم في OpenAI، إلا أن الأخيرة، إلى جانب شركة Anthropic، غابتا تماماً عن هذا الاتفاق الأمني ولم تعلنا عن تأييده حتى الآن.