أبرز النقاط
- أزالت ميتا 4 ملايين حساب و36 مليون قطعة محتوى مرتبطة بالاستغلال الجنسي للأطفال خلال عام واحد
- الشركة وسّعت أنظمة الذكاء الاصطناعي لتغطي لغات يتحدثها 98% من مستخدمي الإنترنت عالمياً
- جاء الإعلان بعد استدعاء الحكومة الهندية لميتا بسبب إعلانات على إنستغرام روّجت لمحتوى استغلال الأطفال
أعلنت شركة ميتا أنها أزالت أكثر من 4 ملايين حساب على منصتي إنستغرام وفيسبوك خلال العام الماضي، وذلك ضمن حملتها لمكافحة محتوى الاستغلال الجنسي للأطفال. جاء هذا الإعلان بعد أيام من استدعاء الحكومة الهندية للشركة على خلفية إعلانات ظهرت على إنستغرام اتُّهمت بالترويج لمواد الإساءة الجنسية للأطفال.
ما الذي كشفته الأزمة الهندية؟
اندلعت الأزمة حين استدعت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية شركة ميتا، بعد تقارير كشفت عن إعلانات على إنستغرام تحتوي على لغة ورموز مشفّرة مرتبطة بمحتوى الإساءة الجنسية للأطفال. ووجّه وزير تكنولوجيا المعلومات الهندي أشويني فايشناو الوزارة بمطالبة الشركة بتفسير عاجل وإزالة الإعلانات فوراً.
ردّت ميتا في تدوينة رسمية قائلة إنها كانت قد بدأت باتخاذ إجراءات قبل أن تُثار القضية علنياً، مؤكدة أنها حدّدت وعطّلت عدداً من الإعلانات المخالفة والحسابات المسؤولة عنها قبل أن تصلها التنبيهات الرسمية. وأضافت الشركة أن تحقيقاتها اللاحقة أسفرت عن إزالة إعلانات إضافية، وتعطيل حسابات، وحظر روابط مرتبطة بمحتوى ينتهك سياساتها.
هل تستهدف خوارزميات ميتا الإعلانية المستخدمين بناءً على اهتمامات غير لائقة؟
نفت ميتا بشكل قاطع الاتهامات التي تشير إلى أن أنظمتها الإعلانية تستهدف عمداً المستخدمين بناءً على اهتمام غير لائق بالأطفال. وأوضحت الشركة أنها تستخدم تقنيات متطورة لرصد الحسابات التي تُظهر نشاطاً مشبوهاً يتعلق بالأطفال، وأنها أزالت تلقائياً أكثر من 4 ملايين من هذه الحسابات خلال العام الماضي.
كيف تطوّر ميتا أدوات الكشف بالذكاء الاصطناعي؟
كشفت ميتا أنها وسّعت أنظمة الكشف المدعومة بالذكاء الاصطناعي لتشمل لغات يتحدثها نحو 98% من مستخدمي الإنترنت عالمياً، بعد أن كانت تغطي قرابة 80 لغة فقط سابقاً. ويمثّل هذا التوسّع قفزة كبيرة في قدرة المنصة على رصد المحتوى المخالف بلغات متعددة، بما فيها اللغة العربية ولغات الأسواق الناشئة.
- توسيع أنظمة الذكاء الاصطناعي لتغطية 98% من اللغات المستخدمة عالمياً
- تعزيز آليات حماية المستخدمين المراهقين
- زيادة التعاون مع جهات إنفاذ القانون حول العالم
- تطوير تقنيات الكشف الاستباقي عن المحتوى المشبوه
ما أهمية السوق الهندية بالنسبة لميتا؟
تُعدّ الهند من أكبر أسواق ميتا عالمياً، إذ يتجاوز عدد مستخدميها 500 مليون شخص. وهذا يجعل أي ضغط تنظيمي من الحكومة الهندية ذا ثقل استثنائي على قرارات الشركة وسياساتها. وتُبرز هذه الحادثة التوترات المتصاعدة بين المنصات التقنية الكبرى والحكومات حول مسؤولية حماية الأطفال على الإنترنت.
رأي Logicity
تكشف هذه الأزمة عن ثغرة جوهرية في أنظمة الإعلانات الآلية: حتى مع ملايين الدولارات المُستثمرة في الذكاء الاصطناعي، يستطيع المحتالون استخدام لغة مشفّرة للتحايل على الخوارزميات. المنافسون مثل TikTok وYouTube يواجهون تحديات مماثلة، لكن ميتا تتحمّل ضغطاً أكبر بسبب حجم منصاتها الهائل. الشركات التقنية في المنطقة العربية التي تدير منصات إعلانية يجب أن تستثمر مبكراً في أدوات المراجعة البشرية إلى جانب الذكاء الاصطناعي، لأن الاعتماد الكامل على الأتمتة أثبت قصوره.
ماذا يعني هذا للمنصات الرقمية عالمياً؟
تُشكّل هذه القضية سابقة مهمة في العلاقة بين الحكومات ومنصات التواصل الاجتماعي. فالاستدعاء الرسمي والمطالبة بتفسيرات فورية يُظهران تصاعد التوقعات التنظيمية، خاصة فيما يتعلق بسلامة الأطفال. ومن المرجح أن تشهد الفترة المقبلة مزيداً من التشريعات التي تُلزم المنصات بمسؤولية أكبر عن المحتوى الإعلاني، لا المحتوى العضوي فحسب.
الأسئلة الشائعة
كم عدد الحسابات التي أزالتها ميتا بسبب استغلال الأطفال؟
أزالت ميتا أكثر من 4 ملايين حساب على إنستغرام وفيسبوك خلال العام الماضي، إضافة إلى 36 مليون قطعة محتوى مرتبطة بالاستغلال الجنسي للأطفال.
لماذا استدعت الحكومة الهندية شركة ميتا؟
استدعت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية ميتا بسبب إعلانات ظهرت على إنستغرام اتُّهمت بالترويج لمواد الإساءة الجنسية للأطفال، ومطالبة الشركة بإزالتها فوراً وتقديم تفسير.
كيف تكشف ميتا عن محتوى استغلال الأطفال؟
تستخدم ميتا أنظمة ذكاء اصطناعي متطورة تغطي لغات يتحدثها 98% من مستخدمي الإنترنت، وترصد الحسابات ذات النشاط المشبوه المتعلق بالأطفال وتزيلها تلقائياً.
هل تستهدف إعلانات ميتا المستخدمين بناءً على اهتمامات غير لائقة بالأطفال؟
نفت ميتا ذلك قطعياً، مؤكدة أنها تستخدم التقنية لرصد وإزالة الحسابات المشبوهة، لا لاستهداف المستخدمين بناءً على اهتمامات غير لائقة.
هل تحتاج مساعدة في التطبيق؟
إذا كنت تدير منصة رقمية أو تطبيقاً يتعامل مع محتوى من إنشاء المستخدمين، تواصل مع فريق Logicity للحصول على استشارات حول أفضل ممارسات سلامة المحتوى وحماية القاصرين.
فاطمة الزهراء
كاتبة تقنية متخصصة في الذكاء الاصطناعي
أُنتِج هذا المقال بمساعدة الذكاء الاصطناعي وراجعه فريق التحرير في لوجيسيتي. اعرف المزيد في سياسة التحرير.
