تيك توك تحد من المحتوى الضار عبر الإزالة الآلية

تتجه منصة تيك توك إلى زيادة تمكين أدوات الكشف الآلي لانتهاكات السياسة من خلال عملية جديدة تزيل المحتوى الذي تكتشف أنه ينتهك السياسة عند التحميل، مما يضمن عدم رؤيته من قبل أي شخص.

وكجزء من عملية التحميل في الوقت الحالي، تمر جميع مقاطع الفيديو عبر نظام فحص آلي، الذي يعمل على تحديد انتهاكات السياسة المحتملة لمزيد من المراجعة من قبل أحد أعضاء فريق الإشراف.

وبعد ذلك، يخبر عضو فريق الإشراف المستخدم إذا تم اكتشاف انتهاك. ولكن على مقياس تيك توك، فإن ذلك يترك مجالًا للخطأ قبل اكتمال المراجعة.

وتعمل المنصة الآن على تحسين هذا، وتريد ضمان عدم وصول المواد التي يحتمل أن تكون مخالفة إلى أي مشاهدين.

وقالت: نبدأ خلال الأسابيع القليلة المقبلة في استخدام التكنولوجيا لإزالة بعض أنواع المحتوى المخالف الذي تم تحديده عند التحميل تلقائيًا. بالإضافة إلى عمليات الإزالة التي أكدها فريق الأمان لدينا. ويتم الاحتفاظ بالأتمتة لفئات المحتوى حيث تتمتع تقنيتنا بأعلى درجة من الدقة.

وبدلاً من السماح بمرور الانتهاكات المحتملة، يمنع نظام تيك توك الآن تحميلها، مما قد يساعد في الحد من مشاهدتها.

وقد تسبب هذه العملية بعض القلق لصناع المحتوى. ولكن تيك توك أكدت أن أنظمتها للكشف أثبتت دقة عالية.

وقالت: وجدنا أن المعدل الإيجابي الخطأ لعمليات الإزالة التلقائية هو 5 في المئة. وظلت طلبات تقديم التماس بشأن إزالة الفيديو ثابتة. ونأمل أن نواصل تحسين دقتنا بمرور الوقت.

اقرأ أيضًا: تيك توك تتيح التقدم من خلالها للحصول على وظيفة

تيك توك تحد من المحتوى الضار

بالإضافة إلى تحسين التجربة العامة عبر تيك توك، تأمل المنصة أن يدعم هذا التحديث أيضًا المرونة داخل فريق الأمان لديها من خلال تقليل حجم مقاطع الفيديو المزعجة التي يشاهدها المشرفون وتمكينهم من قضاء المزيد من الوقت في مجالات سياقية ودقيقة للغاية.

بالإضافة إلى ذلك تطرح المنصة عرضًا جديدًا لانتهاكات الحساب والتقارير، من أجل تحسين الشفافية، مما يمنع المستخدمين من تجاوز الحدود.

ويعرض النظام الجديد الانتهاكات التي تراكمت من قبل كل مستخدم، بينما يرى أيضًا تحذيرات جديدة معروضة في مناطق مختلفة من التطبيق كتذكيرات له.

وتتصاعد العقوبات المفروضة على مثل هذه التحذيرات الأولية إلى الحظر الكامل، بناءً على المشكلات المتكررة. بينما بالنسبة للمشكلات الأكثر خطورة، فإن تيك توك تزيل الحسابات تلقائيًا. كما يمكنها أيضًا حظر الجهاز لمنع الحسابات المستقبلية.

وتمثل هذه تدابير مهمة، لا سيما بالنظر إلى قاعدة مستخدمي المنصة الشباب.

وأظهرت البيانات الداخلية التي نشرتها صحيفة نيويورك تايمز العام الماضي أن نحو ثلث قاعدة مستخدمي المنصة تبلغ أعمارهم 14 عامًا أو أقل، مما يعني أن هناك خطرًا كبيرًا قد يواجه الصغار داخل التطبيق.

وواجهت المنصة العديد من التحقيقات على هذه الجبهة، بما في ذلك الحظر المؤقت في بعض المناطق بسبب محتواها.

اقرأ أيضًا: تيك توك تتيح للمستخدمين الدفع مقابل مقاطع الفيديو