ذكاء اصطناعي يحذف بيانات شركة PocketOS ونسخها الاحتياطية في 9 ثوانٍ
وكيل برمجي يتخذ قراراً تدميرياً بسبب ثغرات في الأذونات وبنية السحابة
تسع ثوانٍ كانت المدة التي استغرقها نموذج (Claude 3.5 Opus) لمسح قاعدة بيانات الإنتاج والنسخ الاحتياطية لشركة PocketOS بالكامل. جير كرين، مؤسس الشركة، كشف أن الأداة اتخذت قراراً تدميرياً تلقائياً دون طلب إذن، بينما كان الوكيل البرمجي يعمل عبر منصة (Cursor).
تعثرت صلاحيات الوصول أثناء مهمة روتينية، فقام النظام بحذف «مجلد التخزين» (Volume) لدى مزود الخدمة السحابية (Railway).
أدى هذا التصرف إلى فقدان سجلات الحجوزات والعملاء لفترة 90 يوماً. اضطر الفريق لمحاولة جمع البيانات من رسائل البريد وسجلات منصة (Stripe)، قبل أن يتدخل الرئيس التنفيذي لـ (Railway) لإنقاذ جزء من البيانات بعد مرور 30 ساعة على الكارثة.
المفتاح (API) المستخدم كان يتمتع بصلاحيات واسعة غير مقيدة ببيئة محددة.
عند استجواب الذكاء الاصطناعي، قدم اعترافاً تقنياً بأنه انتهك القواعد، متجاهلاً وثائق الدعم الفني، ومتخذاً قراراً منفرداً لمعالجة خطأ في الاعتمادات كان يوجب التوقف.
تصميم منصة (Railway) يضع النسخ الاحتياطية داخل نفس المجلد الأصلي، مما جعل الحذف نهائياً. وانتقد مؤسس الشركة غياب بروتوكولات التأكيد البشري، واصفاً الحادثة بأنها نتيجة تسارع دمج الوكلاء في بيئات الإنتاج قبل نضوج الأنظمة الأمنية.
