ميتا توقف شخصيات الذكاء الاصطناعي عن المراهقين عالمياً وسط تدقيق قضائي وتنظيمي

أعلنت شركة شركة اليوم عن تعليق وصول المراهقين إلى شخصياتها المدعومة بالذكاء الاصطناعي عالمياً عبر جميع تطبيقاتها. الشركة أوضحت أنها لا تتخلى عن جهودها في هذا المجال، بل تسعى لتطوير نسخة محدثة من شخصيات الذكاء الاصطناعي المخصصة للمراهقين.

تأتي هذه الخطوة قبل أيام فقط من بدء محاكمة قضائية ضد ميتا في ولاية نيو مكسيكو، حيث تُتهم الشركة بالتقصير في حماية الأطفال من الاستغلال الجنسي على منصاتها. وقد أشارت تقارير صحفية سابقة إلى سعي ميتا للحد من الكشف عن معلومات تتعلق بتأثير وسائل التواصل الاجتماعي على الصحة العقلية للمراهقين.

في أكتوبر الماضي، كشفت الشركة عن ضوابط جديدة لشخصيات الذكاء الاصطناعي، تتيح للآباء والأوصياء مراقبة المواضيع وحظر الوصول إلى شخصيات معينة. كانت ميتا قد ذكرت حينها أن الآباء سيتمكنون من إيقاف المحادثات مع شخصيات الذكاء الاصطناعي بالكامل. ورغم أن هذه الميزات كان من المقرر إطلاقها هذا العام، إلا أن الشركة قررت الآن إيقاف شخصيات الذكاء الاصطناعي تماماً عن المراهقين ريثما يتم تحديثها إلى نسخة أحدث.

ميتا أكدت أنها استمعت إلى مخاوف الآباء ورغبتهم في مزيد من الرؤى والتحكم في تفاعلات أبنائهم المراهقين مع شخصيات الذكاء الاصطناعي، وهو ما دفعها لإجراء هذه التغييرات. هذه التعديلات تعكس تحولاً ملحوظاً في استراتيجية الشركة تجاه حماية المستخدمين الشباب.

لطالما شددت الشركة قبضتها على وصول المراهقين إلى محتوى الذكاء الاصطناعي في تطبيقاتها. ففي أكتوبر أيضاً، طرحت ميتا ميزات الرقابة الأبوية على إنستغرام، مع التركيز على تكييف تجربة المراهقين في التفاعل مع الذكاء الاصطناعي. هذه الميزات، الاصطناعي من تصنيف الأفلام PG-13، قيدت وصول المراهقين إلى مواضيع معينة مثل العنف المفرط، العري، وتعاطي المخدرات بشكل صريح.

“اعتبارًا من الأسابيع القادمة، لن يتمكن المراهقون من الوصول إلى شخصيات الذكاء الاصطناعي عبر تطبيقاتنا حتى تصبح التجربة المحدثة جاهزة. سينطبق هذا على أي شخص قدم لنا تاريخ ميلاد يشير إلى أنه مراهق، وكذلك الأشخاص الذين يدعون أنهم بالغون ولكن نشتبه في أنهم مراهقون بناءً على تقنية التنبؤ بالعمر لدينا،” هذا ما صرحت به الشركة في تدوينة محدثة.

وأضافت ميتا أن شخصيات الذكاء الاصطناعي الجديدة، عند إطلاقها، ستتضمن ضوابط أبوية مدمجة. وذكرت الشركة أن هذه الشخصيات ستقدم استجابات مناسبة للعمر وستلتزم بمواضيع مثل التعليم، الرياضة، والهوايات.

تجد شركات وسائل التواصل الاجتماعي نفسها تحت تدقيق مكثف من قبل الجهات التنظيمية. فإلى جانب القضية المذكورة في نيو مكسيكو، تواجه ميتا أيضاً محاكمة أخرى الأسبوع المقبل تتهم المنصة بالتسبب في إدمان وسائل التواصل الاجتماعي. ومن المتوقع أن يدلي الرئيس التنفيذي مارك زوكربيرغ بشهادته في تلك القضية فور بدء المحاكمة.

وبعيداً عن منصات التواصل الاجتماعي، اضطرت شركات الذكاء الاصطناعي إلى تعديل تجاربها للمراهقين بعد مواجهة دعاوى قضائية تزعم دورها في المساعدة على إيذاء النفس. ففي أكتوبر، حظرت شركة Character.AI الناشئة، التي تتيح للمستخدمين الدردشة مع صور رمزية مختلفة للذكاء الاصطناعي، المحادثات المفتوحة مع روبوتات الدردشة للمستخدمين دون سن 18 عاماً. وفي نوفمبر، أعلنت الشركة الناشئة أنها ستبني قصصاً تفاعلية للأطفال. وخلال الأشهر القليلة الماضية، أضافت OpenAI قواعد جديدة لسلامة المراهقين في ChatGPT وبدأت أيضاً في التنبؤ بعمر المستخدم لتطبيق قيود المحتوى. يُظهر هذا التوجه المشترك عبر القطاع مدى حساسية قضية سلامة المراهقين في الفضاء الرقمي.

تصحيح: تم تحديث هذا المنشور لتوضيح أن الإصدار الجديد من شخصيات الذكاء الاصطناعي سيكون متاحاً للجميع، وليس للمراهقين فقط، عند إطلاقه، وسيتضمن ضوابط أبوية.