ميتا تطلق أداة جديدة لتعديل المحتوى
- يمكن استخدام هذه الأداة لأي نوع من أنواع المحتوى المخالف
- أنفقت Meta ما يقرب من 5 مليارات دولار عالميًا على السلامة والأمن العام الماضي
تتولى ميتا في الشهر المقبل رئاسة مجلس تشغيل منتدى الإنترنت العالمي لمكافحة الإرهاب (GIFCT)، وهي منظمة غير حكومية تجمع بين شركات التكنولوجيا لمعالجة المحتوى الإرهابي عبر الإنترنت من خلال البحث والتعاون التقني ومشاركة المعرفة.
Meta هي عضو مؤسس في GIFCT، التي تأسست في عام 2017 وتطورت إلى منظمة غير ربحية بعد نداء كرايستشيرش لعام 2019، والتي تجمع الشركات الأعضاء والحكومات ومنظمات المجتمع المدني لمعالجة المحتوى المتطرف الإرهابي والعنيف عبر الإنترنت.
توفر Meta أيضًا أداة برمجية مجانية مفتوحة المصدر طورتها والتي ستساعد المنصات على تحديد نسخ من الصور أو مقاطع الفيديو واتخاذ إجراءات ضدها بشكل جماعي. نأمل أن يتم اعتماد الأداة – المسماة Hasher-Matcher-Actioner (HMA) – من قبل مجموعة من الشركات لمساعدتهم على وقف انتشار المحتوى الإرهابي على منصاتهم، وأن تكون مفيدة بشكل خاص للشركات الأصغر التي لا تمتلك نفس الموارد.
يعتمد HMA على برنامج Meta السابق لمطابقة الصور والفيديوهات مفتوحة المصدر، ويمكن استخدامه لأي نوع من أنواع المحتوى المخالف. غالبًا ما تستخدم الشركات الأعضاء في GIFCT ما يسمى بقاعدة بيانات مشاركة التجزئة للمساعدة في الحفاظ على أنظمتها الأساسية خالية من المحتوى الإرهابي، بدلاً من تخزين المحتوى الضار أو الاستغلالي مثل مقاطع الفيديو من الهجمات العنيفة أو الدعاية الإرهابية، تخزن GIFCT تجزئة أو بصمة رقمية فريدة لكل صورة وفيديو.
كلما زاد عدد الشركات التي تشارك في قاعدة بيانات مشاركة التجزئة ، كان ذلك أفضل وأكثر شمولاً – وكلما نجحنا جميعًا في إبقاء المحتوى الإرهابي بعيدًا عن الإنترنت، خاصة وأن الأشخاص غالبًا ما ينتقلون من نظام أساسي إلى آخر لمشاركة هذا المحتوى. لكن العديد من الشركات لا تمتلك القدرات التقنية الداخلية للعثور على المحتوى المخالف بكميات كبيرة وتعديله ، وهذا هو السبب في أن HMA أداة ذات قيمة محتملة.
أنفقت Meta ما يقرب من 5 مليارات دولار على السلامة والأمن العام الماضي، ويعمل بها أكثر من 40 ألف شخص، ولديهم فريق من مئات الأشخاص مكرسين للعمل في مكافحة الإرهاب على وجه التحديد ، مع خبرة تتراوح من إنفاذ القانون والأمن القومي ، إلى استخبارات مكافحة الإرهاب والدراسات الأكاديمية في التطرف.
يعد التزام Meta بمعالجة المحتوى الإرهابي جزءًا من نهج أوسع لحماية المستخدمين من المحتوى الضار على خدمات ميتا. فهم رواد في تطوير تقنية الذكاء الاصطناعي لإزالة المحتوى البغيض على نطاق واسع. يتم الآن مشاهدة خطاب الكراهية مرتين لكل 10000 مشاهدة للمحتوى على Facebook ، بانخفاض من 10 إلى 11 مرة لكل 10000 مشاهدة أقل من ثلاث سنوات. يحظرون أيضًا ملايين الحسابات المزيفة يوميًا حتى لا يتمكنوا من نشر معلومات مضللة ، وأزالوا أكثر من 150 شبكة من الحسابات الخبيثة في جميع أنحاء العالم منذ عام 2017.
على مدى سنوات عديدة عرفوا أنه إذا قمت بتشغيل عملية على وسائل التواصل الاجتماعي على نطاق واسع ، فيجب عليك إنشاء قواعد وعمليات تتسم بالشفافية ويتم تطبيقها بشكل متساوٍ قدر الإمكان. لهذا السبب لدينا معايير مجتمع مفصلة تحدد ما هو غير مقبول في خدماتنا ، والتي يتم نشرها علنًا ومراجعتها باستمرار. حيث ينشرون تقارير ربع سنوية توضح بالتفصيل التقدم الذي يحرزوه في أشياء مثل اكتشاف الكلام الذي يحض على الكراهية والمحتوى الضار الآخر ، والشبكات الضارة التي نعطلها ، وعرض المحتوى الأكثر مشاهدة في الخدمة التي يقدموها.