فيديوهات جنسية وبذيئة للأطفال.. تحقيق لوول ستريت جورنال حول خوارزميات إنستغرام

إنستغرام يواجه تهمة ترويج لفيديوهات بذيئة وميتا ترد

تواجه مواقع التواصل الاجتماعي مثل إنستغرام وإكس وتيك توك وغيرها.. اتهامات بتوجيه اهتمامات المتابيعن من خلال الخوارزميات التي تعمل بها.

وفي أخر تحقيق أجرته صحيفة وول ستريت جورنال أظهر أن خدمة “ريلز” على إنستغرام تتيح عرض مقاطع فيديو قصيرة للمستخدمين تتناول موضوعات ترى خواريزميات التطبيق أنها ستثير اهتمامهم، مثل الفيديوهات الرياضية أو الترفيهية، ومختلف المجالات التي من شأنها أن تستأثر باهتمام المستعمل.

ونحن في أخبار الآن حاولنا التواصل مع الصحفي الاستقصائي Jeff Horwitz الذي أجرى التجربة لنسأله عن بعض الأمور الأخرى التي اكتشفها ولم ترد في التقرير، لكنه لم يرد علينا للحظة.

والاختبارات التي أجرتها الصحيفة كشفت أن التطبيق المملوك لشركة “ميتا، يعتمد الطريقة ذاتها بالنسبة للمستخدمين، الذين ترى خوارزميات المنصة أن لديهم اهتماما شهوانيا بالأطفال أو اهتمامات جنسية.

وسعت الصحيفة إلى اختبار ما ستوصي به خوارزمية خدمة الريلز، لفائدة حسابات اختبار أنشأتها، وتابعت حسابات وصفحات لاعبي جمباز شباب وفرق تشجيع نسائية، وكذلك لصناع محتوى أطفال ومراهقين على المنصة.

وأوضحت الصحيفة أنها، أنشأت الحسابات التجريبية بعدما لاحظت أن آلاف المتابعين لحسابات هؤلاء الشبان والشابات غالبا ما تضم أعدادا كبيرة من الرجال البالغين، كما أن العديد من هؤلاء المتابعين يظهرون أيضا أن لديهم اهتماما بمحتويات جنسية، خاصة بالكبار والصغار، على حد سواء.

وأشارت الصحيفة إلى أن أنظمة التطبيق قدمت “اقتراحات ومحتوى صادم وبذيء” لهذه الحسابات التجريبية، من بينها “مقاطع فيديو جريئة لأطفال”، بالإضافة إلى فيديوهات ذات طابع جنسي واضح، وإعلانات لبعض أكبر العلامات التجارية في الولايات المتحدة.

وتابعت الحسابات التجريبية للصحيفة أيضا، عددا من تلك الحسابات، كاشفة أن “خوارزميات التطبيق، أصبحت بعد ذلك تنتج محتوى أكثر إثارة للقلق، تخللته إعلانات”.

ففي سلسلة من مقاطع الفيديو التي أوصت بها خوارزميات إنستغرام، ظهر إعلان لتطبيق المواعدة “بامبل” بين فيديو لشخص يداعب وجه دمية بنفس حجم الإنسان، وفيديو آخر لفتاة صغيرة بوجه محجوب، ترفع قميصها لتكشف عن بطنها.

وفي إعلان آخر، أعقب إعلان “بيتزا هت” جاء مقطع فيديو لرجل مستلق على سرير وذراعه حول ما وصفه تعليق على الفيديو بأنها، فتاة تبلغ من العمر 10 سنوات.

وأجرى المركز الكندي لحماية الطفل، اختبارات مماثلة مستقلة وتوصل إلى نتائج شبيهة، بحسب “وول ستريت جورنال”.

وفي ردها على نتائج التقرير، قالت شركة ميتا، إن الاختبارات التي أجرتها الصحيفة “أفرزت تجربة مصنعة لا تمثل ما يراه مليارات المستخدمين”.

ورفضت الشركة التعليق على أسباب قيام خوارزميات التطبيق بتجميع مقاطع فيديو منفصلة تظهر الأطفال والجنس مع الإعلانات، لكن متحدثًا باسمها قال إنها أدخلت في أكتوبر أدوات أمان جديدة تمنح المعلنين سيطرة أكبر على مكان ظهور إعلاناتهم، وأن التطبيق يقوم بإزالة، أو يقلل من بروز، أربعة ملايين مقطع فيديو يشتبه في انتهاكها لمعاييره كل شهر.

ومن بين الشركات التي ظهرت إعلاناتها مع محتوى غير مناسب خلال اختبار الصحيفة للتطبيق، متجرا “وولمارت”، و”ديزني”، وشركة المواعدة عبر الإنترنت “ماتش جروب”، وصحيفة “وول ستريت جورنال” نفسها”، وذلك رغم أن معظم أصحاب العلامات التجارية يطلبون عدم عرض إعلاناتهم مع المحتوى الجنسي أو الصريح.

وردت المسؤولة عن قسم الإعلانات في “ميتا”، سامانثا ستيتسون، على ذلك، معتبرة أن أنظمة إنستغرام “فعالة في تقليل المحتوى الضار”، مضيفة أن الشركة استثمرت بكثافة للحد منه.

ونقلت الصحيفة عن موظفين حاليين وسابقين في الشركة، أن إمكانية تجميع خوارزميات إنستغرام لمحتوى جنسي للأطفال، أمر معروف داخليا بأنه يمثل مشكلة.

وكشف الموظفون أنه بمجرد تصنيف إنستغرام للمستخدم على أنه مهتم بموضوع معين، فإن الأنظمة مصممة على دفع المزيد من المحتوى -ذي الصلة- إليه.

وقالت الصحيفة إن وثائق الشركة التي اطلعت عليها تظهر أن موظفي السلامة في “ميتا” ممنوعون على نطاق واسع من إجراء تغييرات على النظام الأساسي، قد تقلل عدد المستخدمين النشطين يوميا.

وتم مثلا عرض إعلانات تشجع المستخدمين على زيارة “ديزني لاند” لقضاء العطلات، بجوار مقطع فيديو لامرأة بالغة تمثل بأنها تمارس الجنس مع والدها، ومقطع آخر لامرأة شابة ترتدي ملابس داخلية مع دماء مزيفة تقطر من فمها.

وأشارت الصحيفة إلى أنها عرضت تجربتها على بعض المعلنين، مما جعل هذه الشركات تثير تساؤلات مع “ميتا” التي أخبرتهم أنها ستحقق في الأمر، لكنها لم تقدم جدولا زمنيا لحل المشكلة، كما لم توضح كيف ستقيد في المستقبل الترويج للمحتوى غير المناسب.

وبعد ما وصفته باستجابة Meta غير المرضية لشكاواها، بدأت Match في إلغاء إعلانات Meta لبعض تطبيقاتها، مثل Tinder، في أكتوبر. ومنذ ذلك الحين، أوقفت جميع إعلانات Reels وتوقفت عن الترويج لعلاماتها التجارية الكبرى على أي من منصات Meta. وقالت جوستين ساكو، المتحدثة باسم ماتش: “ليس لدينا رغبة في دفع أموال لشركة Meta لتسويق علاماتنا التجارية للمحتالين أو وضع إعلاناتنا في أي مكان بالقرب من هذا المحتوى”.

وقال روبي ماكاي، المتحدث باسم شركة Bumble، إنها “لن تقوم أبدًا بالإعلان عمدًا بجوار محتوى غير لائق”، وأن الشركة ستعلق إعلاناتها عبر منصات Meta.

من جهته قال تشارلي كاين، نائب رئيس إدارة العلامات التجارية في ديزني، إن الشركة وضعت قيودًا صارمة على محتوى الوسائط الاجتماعية المقبول للإعلان، وضغطت على ميتا والمنصات الأخرى لتحسين ميزات سلامة العلامة التجارية. وقالت متحدثة باسم الشركة إنه منذ أن قدمت المجلة نتائجها إلى ديزني، كانت الشركة تعمل على معالجة المشكلة على “أعلى المستويات في ميتا”.

ورفضت وول مارت التعليق، ولم تستجب بيتزا هت لطلبات التعليق.

وقالت Hims إنها ستضغط على Meta لمنع وضع مثل هذا الإعلان، وأنها تعتبر تعهد Meta بالعمل على حل المشكلة أمرًا مشجعًا.

الصحيفة أضافت أنها شعرت بالقلق من ظهور إعلانها بجوار مقطع فيديو لما يبدو أنه فعل جنسي للبالغين، وأنها ستطالب ميتا باتخاذ إجراء.