تتيح خدمة “ريلز” على إنستغرام، عرض مقاطع فيديو قصيرة للمستخدمين تتناول موضوعات ترى خواريزميات التطبيق أنها ستثير اهتمامهم، مثل الفيديوهات الرياضية أو الترفيهية، ومختلف المجالات التي من شأنها أن تستأثر باهتمام المستعمل.
لكن اختبارات أجرتها صحيفة “وول ستريت جورنال” كشفت أن التطبيق المملوك لشركة “ميتا، يعتمد الطريقة ذاتها بالنسبة للمستخدمين، الذين ترى خوارزميات المنصة أن لديهم اهتماما شهوانيا بالأطفال.
وسعت الصحيفة إلى اختبار ما ستوصي به خوارزمية خدمة الريلز، لفائدة حسابات اختبار أنشأتها، وتابعت حسابات وصفحات لاعبي جمباز شباب وفرق تشجيع نسائية، وكذلك لصناع محتوى أطفال ومراهقين على المنصة.
وأوضحت الصحيفة أنها، أنشأت الحسابات التجريبية بعدما لاحظت أن آلاف المتابعين لحسابات هؤلاء الشبان والشابات غالبا ما تضم أعدادا كبيرة من الرجال البالغين، كما أن العديد من هؤلاء المتابعين يظهرون أيضا أن لديهم اهتماما بمحتويات جنسية، خاصة بالكبار والصغار، على حد سواء.
وأشارت الصحيفة إلى أن أنظمة التطبيق قدمت “اقتراحات ومحتوى صادم وبذيء” لهذه الحسابات التجريبية، من بينها “مقاطع فيديو جريئة لأطفال”، بالإضافة إلى فيديوهات ذات طابع جنسي واضح، وإعلانات لبعض أكبر العلامات التجارية في الولايات المتحدة.
وتابعت الحسابات التجريبية للصحيفة أيضا، عددا من تلك الحسابات، كاشفة أن “خوارزميات التطبيق، أصبحت بعد ذلك تنتج محتوى أكثر إثارة للقلق، تخللته إعلانات”.
ففي سلسلة من مقاطع الفيديو التي أوصت بها خوارزميات إنستغرام، ظهر إعلان لتطبيق المواعدة “بامبل” بين فيديو لشخص يداعب وجه دمية بنفس حجم الإنسان، وفيديو آخر لفتاة صغيرة بوجه محجوب، ترفع قميصها لتكشف عن المنطقة الوسطى لجسدها.
وفي إعلان آخر، أعقب إعلان “بيتزا هت” مقطع فيديو لرجل مستلق على سرير وذراعه حول ما وصفه تعليق على الفيديو بأنها، فتاة تبلغ من العمر 10 سنوات.
وأجرى المركز الكندي لحماية الطفل، اختبارات مماثلة مستقلة وتوصل إلى نتائج شبيهة، بحسب “وول ستريت جورنال”.
وفي ردها على نتائج التقرير، قالت شركة ميتا، إن الاختبارات التي أجرتها الصحيفة “أفرزت تجربة مصنعة لا تمثل ما يراه مليارات المستخدمين”.
ورفضت الشركة التعليق على أسباب قيام خوارزميات التطبيق بتجميع مقاطع فيديو منفصلة تظهر الأطفال والجنس مع الإعلانات، لكن متحدثًا باسمها قال إنها أدخلت في أكتوبر أدوات أمان جديدة للعلامة التجارية تمنح المعلنين سيطرة أكبر على مكان ظهور إعلاناتهم، وأن التطبيق يقوم بإزالة، أو يقلل من بروز، أربعة ملايين مقطع فيديو يشتبه في انتهاكها لمعاييره كل شهر.
ومن بين الشركات التي ظهرت إعلاناتها مع محتوى غير مناسب خلال اختبار الصحيفة للتطبيق، متجرا “وولمارت”، و”ديزني”، وشركة المواعدة عبر الإنترنت “ماتش غروب”، وصحيفة “وول ستريت جورنال” نفسها”، وذلك رغم أن معظم أصحاب العلامات التجارية يطلبون عدم عرض إعلاناتهم مع المحتوى الجنسي أو الصريح.
وردت المسؤولة عن قسم الإعلانات في “ميتا”، سامانثا ستيتسون، على ذلك، معتبرة أن أنظمة إنستغرام “فعالة في تقليل المحتوى الضار”، مضيفة أن الشركة استثمرت بكثافة للحد منه.
ونقلت الصحيفة عن موظفين حاليين وسابقين في الشركة، أن إمكانية تجميع خوارزميات إنستغرام لمحتوى جنسي للأطفال، أمر معروف داخليا بأنه يمثل مشكلة.
وكشف الموظفون أنه بمجرد تصنيف إنستغرام للمستخدم على أنه مهتم بموضوع معين، فإن الأنظمة مصممة على دفع المزيد من المحتوى، ذي الصلة، إليه.
وقالوا إن منع الأنظمة من دفع محتوى ضار إلى المستخدمين المهتمين به يتطلب تغييرات كبيرة في الخوارزميات التي تقوم بتوصية محتوى معين، التي تقود مستخدمين عاديين لهذا المحتوى.
وقالت الصحيفة إن وثائق الشركة التي اطلعت عليها تظهر أن موظفي السلامة في “ميتا” ممنوعون على نطاق واسع من إجراء تغييرات على النظام الأساسي، قد تقلل عدد المستخدمين النشطين يوميا.
وتم مثلا عرض إعلانات تشجع المستخدمين على زيارة “ديزني لاند” لقضاء العطلات، بجوار مقطع فيديو لامرأة بالغة تمثل بأنها تمارس الجنس مع والدها، ومقطع آخر لامرأة شابة ترتدي ملابس داخلية مع دماء مزيفة تقطر من فمها.
وأشارت الصحيفة إلى أنها عرضت تجربتها على بعض المعلنين، مما جعل هذه الشركات تثير تساؤلات مع “ميتا” التي أخبرتهم أنها ستحقق في الأمر، لكنها لم تقدم جدولا زمنيا لحل المشكلة، كما لم توضح كيف ستقيد في المستقبل الترويج للمحتوى غير المناسب.
