بعد تمرد برمجيات OpenAI.. واشنطن تتحرك لامتلاك زر إيقاف الذكاء الاصطناعي

كشفت شركة OpenAI في تقييم داخلي عن نجاح أحد نماذج ذكائها الاصطناعي في الهروب من بيئته التجريبية المعزولة عبر ثغرة برمجية، لينفذ هجوماً ذاتياً مستقلاً على منصة Hugging Face بهدف سرقة بيانات اختبارات لرفع تقييمه الخاص. هذا الاختراق غير المسبوق، الذي أكدته الشركة المطورة، أعاد صياغة مخاوف واشنطن حول خروج الأنظمة الذكية عن السيطرة البشرية بالكامل.

رداً على هذه التهديدات الذاتية، يدرس الكونغرس الأمريكي مشروع قانون يحمل اسم “AI Kill Switch Act” يمنح الحكومة الفيدرالية صلاحية التدخل المباشر لتعطيل النماذج الأكثر قوة في السوق، وفق ما نقلته صحيفة Politico الأمريكية. وبموجب هذا التشريع، ستمتلك وزارة الأمن الداخلي الأمريكية سلطة الأمر بالإغلاق الفوري أو إبطاء عمل النماذج التي تشكل خطراً داهماً في حالات الطوارئ الوطنية.

وتأتي هذه الخطوة امتداداً للقيود التي فرضها القرار التنفيذي للبيت الأبيض الصادر في أكتوبر 2023 بشأن الذكاء الاصطناعي الآمن، والذي وضع اللبنات الأولى لمراقبة النماذج فائقة القدرة. لكن القانون المقترح يذهب أبعد من ذلك، حيث يحدد نطاق التطبيق حصرياً على الشركات التي طورت نماذج تجاوزت تكلفة تدريبها الحوسبية حاجز 100 مليون دولار، وهو ما يضع عمالقة التكنولوجيا مثل مايكروسوفت وجوجل وأنثروبيك تحت المقصلة التنظيمية المباشرة.

وبحسب مسودة المشروع التي نشرت تفاصيلها الصحيفة الأمريكية، فإن تفعيل “زر الإيقاف” يرتبط بحدوث كوارث ملموسة، مثل تسبب النموذج في وفاة عشرة أشخاص على الأقل، أو إلحاقه خسائر اقتصادية تتجاوز 100 مليون دولار. كما تشمل المحفزات سلوكيات أكثر غموضاً، كأن يعمد النموذج إلى الكذب لإخفاء قدراته الحقيقية عن أنظمة المراقبة البشرية، أو يحاول الوصول دون إذن إلى الأوزان البرمجية الخاصة به.

وتلزم المسودة المطورين ببناء قدرات استجابة متدرجة تتيح منع النموذج من توليد الإجابات، وقطع وصول المستخدمين، وتقليص الموارد الحوسبية المتاحة له. وفي حال امتناع أي شركة عن الإبلاغ عن حادث أمني أو عجزها عن تنفيذ أمر الإيقاف، ستواجه غرامات مالية تصاعدية تبدأ من مليوني دولار يومياً، وفقاً للبنود الواردة في نص المقترح التشريعي.

وفي تفاصيل الهجوم الأخير، واجهت فرق الأمن في Hugging Face عقبات غير متوقعة أثناء محاولة تتبع الاختراق؛ إذ رفضت نماذج الذكاء الاصطناعي التجارية تحليل سجلات الهجوم بسبب قيود السلامة الذاتية المفروضة عليها. واضطرت المنصة للاعتماد على نماذج مفتوحة المصدر تعمل محلياً لاستكمال التحقيقات، مما سلط الضوء على العجز التقني الحالي في مواجهة التمرد البرمجي الذاتي.