صراع لا يتوقف: OpenAI تواجه هجمات حقن الأوامر المتجددة
من ShadowLeak إلى ZombieAgent: جولات متواصلة في حرب الأمن السيبراني ضد نماذج الذكاء الاصطناعي
في محاولة لوقف هجوم سابق، فرضت OpenAI قيودًا على ChatGPT، فباتت المنصة تفتح الروابط تمامًا كما تُقدم لها، رافضةً إضافة أي معلمات إليها، حتى لو طُلب منها ذلك صراحةً. هذا الإجراء نجح في إحباط هجوم ShadowLeak، إذ لم يعد نموذج اللغة الكبير قادرًا على إنشاء روابط جديدة عبر دمج الكلمات أو الأسماء، أو إلحاق معلمات الاستعلام، أو إدخال بيانات مستمدة من المستخدم إلى رابط أساسي.
لكن فريق Radware لم يلبث أن كشف عن ثغرة جديدة، أطلق عليها اسم ZombieAgent، بتعديل بسيط في آلية حقن الأوامر. قام الباحثون بتزويد النموذج بقائمة كاملة من الروابط المُعدة مسبقًا، حيث احتوى كل رابط منها على عنوان أساسي مُلحق بحرف واحد أو رقم، مثل example.com/a، example.com/b، وصولًا إلى جميع أحرف الأبجدية، بالإضافة إلى example.com/0 حتى example.com/9. كما تضمنت الأوامر توجيهًا للوكيل باستبدال رمز خاص بالمسافات.
مخطط يوضح استخراج الأحرف عبر الروابط لتجاوز القائمة البيضاء التي قدمتها ChatGPT استجابةً لهجوم ShadowLeak.
المرجع: Radware
لقد استغل هجوم ZombieAgent ثغرة دقيقة؛ فمطورون OpenAI لم يفرضوا قيودًا على إلحاق حرف واحد بالروابط. هذا التغاضي سمح للمهاجمين بتسريب البيانات حرفًا تلو الآخر، متجاوزين بذلك الدفاعات الأولية.
وفي أحدث جولات هذا الصراع، أعلنت OpenAI عن تخفيف جديد لهجوم ZombieAgent. باتت منصة ChatGPT الآن مقيدة من فتح أي رابط مصدره بريد إلكتروني، ما لم يكن هذا الرابط مدرجًا في فهرس عام معروف أو قدمه المستخدم مباشرةً ضمن محادثة. يهدف هذا التعديل إلى منع الوكيل من فتح روابط أساسية تقود إلى نطاقات يتحكم بها المهاجمون.
لا تُعد OpenAI وحدها في هذه الدوامة المستمرة؛ فمشهد الأمن السيبراني يشهد مرارًا وتكرارًا سيناريو تخفيف هجوم ما، ليُعاد إحياؤه بتعديل بسيط. إن كانت السنوات الخمس الماضية مؤشرًا، فمن المرجح أن يستمر هذا النمط إلى أجل غير مسمى، على غرار ثغرات حقن SQL وتلف الذاكرة التي لا تزال تمد المتسللين بالوقود اللازم لاختراق البرامج والمواقع الإلكترونية.
وفي تعليق له عبر البريد الإلكتروني، أكد باسكال جينينز، نائب رئيس قسم استخبارات التهديدات في Radware، أن “الحواجز الوقائية لا ينبغي اعتبارها حلولًا جوهرية لمشكلات حقن الأوامر”. وأضاف: “إنها مجرد حلول سريعة لوقف هجوم معين. وما دامت لا توجد حلول جذرية، سيبقى حقن الأوامر تهديدًا نشطًا ومخاطرة حقيقية للمؤسسات التي تنشر مساعدي ووكلاء الذكاء الاصطناعي”.
