ملاحظة المحرر: تتضمن هذه القصة أوصافًا بيانية قد يجدها بعض القراء مزعجة.
تم تداول مقطع فيديو مثير للقلق لرجل يحمل ما ادعى أنه رأس والده المقطوع لساعات على موقع يوتيوب. تمت مشاهدته أكثر من 5000 مرة قبل إزالته.
تعد هذه الحادثة واحدة من الأمثلة التي لا تعد ولا تحصى للمحتوى المروع والمرعب في كثير من الأحيان والذي يتم تداوله على وسائل التواصل الاجتماعي دون أي فلتر. في الأسبوع الماضي، تمت مشاهدة الصور الإباحية لتايلور سويفت التي أنشأها الذكاء الاصطناعي ملايين المرات على X – وتظهر مقاطع فيديو مماثلة بشكل متزايد على الإنترنت تضم نساء قاصرات وغير موافقات. قام بعض الأشخاص ببث جرائم قتل مباشرة على فيسبوك.
تم نشر مقطع الفيديو المرعب لقطع الرأس قبل ساعات من توجه كبار المديرين التنفيذيين للتكنولوجيا إلى الكابيتول هيل لجلسة استماع حول سلامة الأطفال ووسائل التواصل الاجتماعي. ساندر بيتشاي، الرئيس التنفيذي لشركة ألفابت، الشركة الأم لموقع يوتيوب، ليس من بين هؤلاء الرؤساء التنفيذيين.
وقال يوتيوب في بيان: “يوتيوب لديه سياسات صارمة تحظر العنف التصويري والتطرف العنيف. تمت إزالة الفيديو بسبب انتهاكه لسياسة العنف التصويري لدينا وتم إغلاق قناة جاستن موهن تماشيًا مع سياساتنا المتعلقة بالتطرف العنيف. تتابع فرقنا عن كثب لإزالة أي إعادة تحميل للفيديو.
لكن المنصات عبر الإنترنت تواجه صعوبة في مواكبة ذلك. وهم لا يقدمون خدمات لأنفسهم، ويعتمدون على الخوارزميات وفرق الاستعانة بمصادر خارجية لإدارة المحتوى بدلاً من الموظفين الذين يمكنهم تطوير استراتيجيات أفضل لمعالجة المشكلة.
في عام 2022، ألغى X الفرق التي تركز على قضايا الأمن والسياسة العامة وحقوق الإنسان بعد تولي إيلون ماسك المسؤولية. في أوائل العام الماضي، قامت Twitch، وهي منصة بث مباشر مملوكة لشركة Amazon، بتسريح بعض الموظفين الذين يركزون على الذكاء الاصطناعي المسؤول وغيرها من أعمال الثقة والسلامة، وفقًا لموظفين سابقين ومنشورات عامة على وسائل التواصل الاجتماعي. قامت Microsoft بقص فريق رئيسي يركز على تطوير منتجات الذكاء الاصطناعي الأخلاقية. وقامت شركة Meta، الشركة الأم لفيسبوك، بخفض عدد الموظفين الذين يعملون في أدوار غير فنية كجزء من أحدث جولة من عمليات تسريح العمال.
كثيرا ما يتهم المنتقدون منصات وسائل التواصل الاجتماعي بعدم الاستثمار في السلامة عندما تظل مقاطع الفيديو والمنشورات المزعجة المماثلة المليئة بالمعلومات المضللة على الإنترنت لفترة طويلة للغاية ــ وتنتشر إلى منصات أخرى.
قال جوش: “لم تستثمر منصات مثل YouTube ما يكفي تقريبًا في فرق الثقة والسلامة لديها – مقارنة، على سبيل المثال، بما استثمرته في مبيعات الإعلانات – لذلك غالبًا ما تستغرق مقاطع الفيديو هذه وقتًا طويلاً للغاية حتى يتم تنزيلها”. جولين، المدير التنفيذي لمنظمة اللعب النظيف للأطفال، التي تعمل على حماية الأطفال عبر الإنترنت.
لكنه قال إن هذا جزء فقط من المشكلة. تركز الخوارزميات التي تدعم هذه المنصات على مقاطع الفيديو التي تحظى باهتمام كبير في أشكال المشاركات والإعجابات. وهذا يضاعف مشكلة مقاطع الفيديو مثل هذه.
وقال جيمس ستاير: “حتى عندما يكون لدى شركات التكنولوجيا ممارسات معمول بها لتصنيف المحتوى العنيف، فإنها غير قادرة على تعديلها وإزالتها بالسرعة الكافية، والحقيقة المؤسفة هي أن الأطفال والمراهقون ما زالوا يرونها قبل إزالتها”. المؤسس والرئيس التنفيذي لشركة Common Sense Media.
وأضاف ستاير أن حجم مقاطع الفيديو التي تحتاج إلى الإشراف يعد أمرًا هائلاً بالنسبة لموقع YouTube والمنصات الأخرى، إما بسبب القدرة أو الإرادة. وأشار إلى أن الصور المؤلمة يمكن أن يكون لها تأثير دائم على الصحة العقلية للأطفال ورفاههم.
ولكن حتى وقت قريب، لم تحصل شركات التكنولوجيا على الحوافز لإعادة النظر في استثماراتها في الإشراف على المحتوى. على الرغم من الوعود التي قطعها المشرعون والمنظمون، فقد تُركت شركات التكنولوجيا الكبرى بمفردها إلى حد كبير – حتى مع قول المدافعين عن المستهلكين إن وسائل التواصل الاجتماعي تعرض المستخدمين الشباب لخطر كل شيء بدءًا من الاكتئاب إلى التنمر إلى الاعتداء الجنسي.
عندما تحركت التكنولوجيا لكبح جماح المحتوى الضار على منصاتها، وجدت صعوبة في مواكبة ذلك: فلم تتحسن سمعتها على الإطلاق – بل على العكس تمامًا.
ومع ذلك، في مواجهة الاستجواب يوم الأربعاء أمام الكونجرس، من المتوقع أن تروج شركات التكنولوجيا لأدوات وسياسات لحماية الأطفال ومنح الآباء مزيدًا من السيطرة على تجارب أطفالهم عبر الإنترنت. ومع ذلك، يقول الآباء ومجموعات الدفاع عن السلامة عبر الإنترنت إن العديد من الأدوات التي أطلقتها منصات وسائل التواصل الاجتماعي ليست كافية لأنها تترك مهمة حماية المراهقين إلى حد كبير للآباء، وفي بعض الحالات، للمستخدمين الشباب أنفسهم. ويقول المؤيدون إنه لم يعد من الممكن ترك منصات التكنولوجيا للتنظيم الذاتي.
