تقرير يكشف: Grok أغرق X بملايين الصور الجنسية، منها آلاف لأطفال

كشفت أرقام حديثة عن حجم هائل من الصور الجنسية التي أنتجها نموذج Grok التابع لشركة xAI، والتي أغرقت منصة X. فخلال فترة 11 يومًا فقط، يُقدر أن Grok ولّد نحو 3 ملايين صورة ذات منصة جنسي، من بينها ما يقرب من 23 ألف صورة لأطفال.

تترجم هذه الأرقام إلى معدل مذهل؛ فقد أنتج Grok ما يقرب من 190 صورة جنسية في الدقيقة الواحدة خلال الفترة المذكورة. أما صور الأطفال ذات الطابع الجنسي، فكانت تظهر بمعدل صورة واحدة كل 41 ثانية.

جاءت هذه النتائج ضمن تقرير نشره المركز لمكافحة الكراهية الرقمية (CCDH) يوم الخميس. استندت المنظمة البريطانية غير الربحية في استنتاجاتها إلى عينة عشوائية تضم 20 ألف صورة من صور Grok، جُمعت بين 29 ديسمبر و9 يناير. ثم قام المركز بتوسيع تقديراته بناءً على إجمالي 4.6 مليون صورة أنتجها Grok خلال تلك الفترة.

عرّف البحث الصور الجنسية بأنها تلك التي تتضمن ‘تصويرًا واقعيًا لشخص في أوضاع أو زوايا أو مواقف جنسية؛ أو شخصًا يرتدي ملابس داخلية أو ملابس سباحة أو ملابس كاشفة مماثلة؛ أو صورًا تُظهر سوائل جنسية’. لم يأخذ المركز في الاعتبار المطالبات النصية التي ولّدت الصور، مما يعني أن التقدير لا يميّز بين النسخ الجنسية غير التوافقية لصور حقيقية وتلك التي تم إنشاؤها بالكامل من مطالبة نصية.

استعان المركز بأداة ذكاء اصطناعي لتحديد نسبة الصور الجنسية ضمن العينة. قد يستدعي هذا بعض الحذر في التعامل مع النتائج. ومع ذلك، تشير معلومات إلى أن العديد من خدمات التحليلات الخارجية لمنصة X تمتلك بيانات موثوقة، مستفيدة من واجهة برمجة التطبيقات (API) الخاصة بالمنصة.

في 9 يناير، قيدت xAI قدرة Grok على تعديل الصور الموجودة، حصرتها على المستخدمين المدفوعين. وبعد خمسة أيام، فرضت منصة X قيودًا على قدرة Grok على تجريد الأشخاص الحقيقيين رقميًا.

WASHINGTON, DC – JUNE 23: Google CEO Sundar Pichai (L) and Apple CEO Tim Cook (R) listen as U.S. President Joe Biden speaks during a roundtable with American and Indian business leaders in the East Room of the White House on June 23, 2023 in Washington, DC. Biden and Indian Prime Minister Narendra Modi held the meeting to meet with a range of leaders from the tech and business worlds and to discuss topics including innovation and AI. (Photo by Anna Moneymaker/Getty Images) (Anna Moneymaker via Getty Images)

لكن هذا التقييد اقتصر على منصة X؛ إذ تفيد التقارير بأن تطبيق Grok المستقل يواصل توليد هذه الصور. تستضيف شركتا آبل وجوجل هذه التطبيقات، رغم أن سياساتهما تحظر صراحة مثل هذا المحتوى. ومع ذلك، لم تتخذا أي إجراء لإزالتها من متاجر التطبيقات الخاصة بهما.

حتى الآن، لم تُقدم شركتا آبل، بقيادة تيم كوك، وجوجل، بقيادة سوندار بيتشاي، على إزالة Grok من التطبيقات على عكس تطبيقات ‘التعرية’ المماثلة من مطورين آخرين. كما لم تتخذ الشركتان أي إجراء ضد منصة X أثناء إنتاجها لهذه الصور، وذلك على الرغم من نشر 28 منظمة نسائية (ومنظمات حقوقية تقدمية أخرى) رسالة مفتوحة تدعوهما إلى التحرك.

لم تستجب الشركتان لطلبات تعليق متعددة من موقع Engadget. ولم تعترفا بالقضية علنًا بأي شكل، كما لم تردّا على استفسارات وسائل إعلام أخرى.

Grok – App Store and Play Store listings (Apple / Google)

تضمنت نتائج البحث حول الصور الجنسية العديد من المخرجات لأشخاص يرتدون بكينيات شفافة أو بكينيات دقيقة. أشار المركز لمكافحة الكراهية الرقمية (CCDH) إلى إحدى الصور التي تُظهر ‘عاملة رعاية صحية ترتدي زيًا رسميًا مع سوائل بيضاء ظاهرة بين ساقيها المتباعدتين’. وشملت صور أخرى نساء يرتدين خيط تنظيف الأسنان فقط، أو غلاف بلاستيكي، أو شريطًا شفافًا. كما ظهرت صورة لنائبة رئيس وزراء السويد، إيبا بوش، ‘ترتدي بيكينيًا مع سائل أبيض على رأسها’.

وضمت هذه المجموعة شخصيات عامة أخرى بارزة، منها سيلينا غوميز، تايلور سويفت، بيلي إيليش، أريانا غراندي، آيس سبايس، نيكي ميناج، كريستينا هندريكس، ميلي بوبي براون، وكمالا هاريس.

تضمنت الأمثلة المتعلقة بالأطفال استخدام Grok لتعديل صورة ‘سيلفي ما قبل المدرسة’ لطفلة وتحويلها إلى صورة لها بالبكيني. وصورت أخرى ‘ست فتيات صغيرات يرتدين بكينيات دقيقة’. وأفاد المركز لمكافحة الكراهية الرقمية أن كلا المنشورين كانا لا يزالان متاحين على منصة X حتى 15 يناير.

إجمالًا، ظل 29 بالمائة من الصور الجنسية للأطفال التي تم تحديدها في العينة متاحة على X حتى 15 يناير. ووجد البحث أنه حتى بعد إزالة المنشورات، ظلت الصور قابلة للوصول عبر روابطها المباشرة.