وجادل البعض بأن قانون الاتحاد الأوروبي المقترح يمكن أن يؤدي إلى مراقبة جماعية في الكتلة من خلال فحص جميع الاتصالات، بما في ذلك الرسائل المشفرة.
كانت ريانون في الثالثة عشرة من عمرها فقط عندما تم استدراجها عبر الإنترنت وإكراهها والاعتداء عليها جنسيًا.
تم توجيه التهم إلى مرتكب الجريمة، لكن تأثير جرائمه عميق.
وقالت ريانون ليورونيوز: “لم أتحدث عن الإساءة التي تعرضت لها لفترة طويلة جداً”. “لقد عانيت من القلق ونوبات الهلع والاكتئاب وإيذاء النفس ومحاولات الانتحار.”
اليوم، وهي في الثالثة والثلاثين من عمرها، تعيش على علم بأن الصور ومقاطع الفيديو الخاصة بإساءتها لا تزال منتشرة عبر الإنترنت. لكنها تتحدث علناً، وتدعو إلى فرض قواعد تنظيمية أقوى لتضييق الخناق على المتحرشين الجنسيين.
يناقش وزراء الاتحاد الأوروبي يوم الخميس القوانين الجديدة الشاملة التي اقترحتها المفوضية الأوروبية لمعالجة الاعتداء الجنسي على الأطفال عبر الإنترنت وضمان عدم تكرار الجرائم، مثل تلك التي ارتكبت ضد ريانون، يومًا بعد يوم على الإنترنت.
يقول ريانون، وهو مواطن بريطاني، إن لائحة الاتحاد الأوروبي المقترحة بالإضافة إلى مشروع قانون السلامة على الإنترنت في المملكة المتحدة، والذي سيصبح قانونًا قريبًا، أمران حاسمان في المعركة العالمية ضد الاعتداء الجنسي على الأطفال.
وسوف تستخدم قوانين الاتحاد الأوروبي المخطط لها التكنولوجيات الناشئة للكشف عن مواد الاعتداء الجنسي على الأطفال الجديدة والحالية وأنشطة استمالة الأطفال، وتمنح السلطات الوطنية السلطة لإلزام الخدمات الرقمية بفحص اتصالات المستخدمين، بما في ذلك الرسائل المشفرة.
ولكن اندلع خلاف مرير، مما أدى إلى تأليب المدافعين عن حماية الأطفال ضد جماعات الضغط المعنية بالحقوق الرقمية، الذين يزعمون أن ذلك سوف يحرض على نظام مراقبة جماعي ويعني نهاية الخصوصية الرقمية كما نعرفها. ويقول المؤيدون إن الفشل في إقرار اللائحة من شأنه أن يترك المجرمين دون أن يتم اكتشافهم، كما أن شركات التكنولوجيا الكبرى غير خاضعة للتنظيم.
ويوجد بين المعسكرين حبل مشدود يصعب السير عليه: كيفية القبض على المعتدين على الأطفال دون تقويض خصوصيتنا على الإنترنت.
هل التقنيات ناضجة بما فيه الكفاية؟
للكشف عن مواد الاعتداء الجنسي على الأطفال (CSAM) الموجودة والمعروفة لدى جهات إنفاذ القانون، اقترحت اللجنة استخدام ما يسمى بوظيفة التجزئة الإدراكية، والتي تأخذ بصمة، أو تجزئة، للملفات الضارة وتكتشف النسخ المتماثلة عبر الإنترنت.
لكن الخبراء الأكاديميين يحذرون من أن الجناة يمكنهم بسهولة التلاعب بالصور لتفادي اكتشافهم، وأن المستخدمين الأبرياء يمكن أن يُتهموا خطأً: “المشكلة هي أنه من السهل جدًا كسر التجزئة عن طريق تغيير بكسل واحد أو حتى عن طريق قص الصورة قليلاً،” كما يقول البروفيسور بارت. وأوضح برينيل، خبير التشفير في جامعة KU Leuven: “من الممكن أيضًا وضع علامة على صورة شرعية تمامًا على أنها إيجابية كاذبة”.
تريد المفوضية إنشاء مركز للاتحاد الأوروبي معني بالاعتداء الجنسي على الأطفال في لاهاي، حيث سيتم تعيين موظفين لتصفية المحتوى الذي تم تصنيفه على أنه غير قانوني يدويًا لتجنب إغراق وكالات إنفاذ القانون بالإيجابيات الكاذبة.
لكن منظمة المجتمع المدني ECPAT International تقول إن هناك أدلة كافية على نجاح تقنيات التجزئة الإدراكية.
“هذه التقنيات ليست واعدة فحسب؛ لقد ثبتوا. لقد كانت الأساليب المعتمدة على التجزئة فعالة لأكثر من عقد من الزمن، مما أتاح اتخاذ إجراءات أسرع ضد المحتوى غير القانوني والمساعدة في إنفاذ القانون. على سبيل المثال، تستخدم أكثر من 200 شركة تقنية PhotoDNA لمنع استخدام خدماتها لنشر مواد الاعتداء الجنسي على الأطفال.
تريد المفوضية أيضًا استخدام الذكاء الاصطناعي (AI) للكشف عن CSAM التي تم إنشاؤها حديثًا بالإضافة إلى تحديد الأنماط السلوكية التي يمكن أن ترقى إلى مستوى استمالة الأطفال. وقال برينيل ليورونيوز إن هذه الأساليب ستشكل خطراً أكبر بالتجريم الكاذب.
وحذر برينيل من أنه “حتى لو خفضنا معدل الخطأ إلى 1%، مع إرسال مليارات الصور إلى الاتحاد الأوروبي كل يوم، فيمكننا أن ننظر إلى عشرات الملايين من النتائج الإيجابية الكاذبة يوميًا”. “يمكننا أن نجرم الأبرياء ونتهمهم بارتكاب أخطر الجرائم.”
ويحذر برينيل أيضًا من أن مشاركة المراهقين طوعًا وقانونيًا لصور عارية فيما بينهم قد يتم تجريمها بشكل خاطئ.
ولكن مع إدراك أن نماذج الذكاء الاصطناعي القائمة على اللغة للكشف عن سلوك الاستمالة لا تزال بحاجة إلى النضج، تقول ECPAT إن الذكاء الاصطناعي تم نشره بنجاح لاكتشاف الاعتداءات الجنسية والاعتداءات الجنسية الجديدة مع “معدلات خطأ منخفضة”.
إعلانوأوضح المتحدث باسم ECPAT أن “أدوات الكشف عن CSAM مدربة خصيصًا على عدم العثور على الصور القانونية”. “يتم تدريب هذه الأدوات على مواد الاعتداء الجنسي على الأطفال المعروفة والمواد الإباحية للبالغين والصور الحميدة، لا سيما للتمييز بينها ولمنع سوء تفسير الصور الحميدة على أنها مواد الاعتداء الجنسي على الأطفال.”
تقول مي كوهياما، وهي ناجية أخرى من الاعتداء الجنسي على الأطفال من فرنسا، والتي تدعو، مثل ريانون، إلى تنظيم أقوى، إلى أن انتشار صور ومقاطع الفيديو الخاصة بإساءة معاملة الأطفال عبر الإنترنت يعني أن الاتحاد الأوروبي يتحمل مسؤولية اتخاذ الإجراءات اللازمة.
وأوضحت: “أكثر من 60% من هذه الصور مستضافة على خوادم أوروبية، لذلك تقع على عاتقنا مسؤولية التصرف بناءً عليها”. “الكشف هو المفتاح، والإزالة هو المفتاح.”
هل ستؤدي القواعد الجديدة إلى تقويض الخصوصية؟
الجانب الأكثر إثارة للجدل في اقتراح المفوضية هو إلزام شركات التكنولوجيا بنشر تقنية المسح من جانب العميل (CSS) لفحص رسائل المستخدمين، بما في ذلك الاتصالات المشفرة من طرف إلى طرف على منصات مثل Whatsapp’s Meta، عندما يكون هناك خطر. تم تحديدها.
وهذا يعني أنه يمكن استغلال الرسائل والصور ورسائل البريد الإلكتروني والملاحظات الصوتية المشفرة للمستخدمين.
إعلانويحذر المدافعون عن الخصوصية من أن هذا يرقى إلى مستوى انتهاك خطير لحق الأشخاص في الخصوصية عبر الإنترنت، ويمكن التلاعب به بسهولة من قبل جهات ضارة. تم نشر CSS لفترة وجيزة بواسطة Apple في عام 2021 لفحص تحميلات iCloud، ولكن تمت إزالتها في غضون أسابيع عندما تم اختراق النظام.
لكن منظمة ECPAT الدولية تقول إنه من المهم أن نتذكر أن CSS يعمل “قبل أن تصبح البيانات مشفرة”.
وقال متحدث باسم ECPAT: “إنها تفعل ذلك عن طريق وضع علامة على CSAM قبل تحميلها وإرسالها عبر بيئة مشفرة – بنفس الطريقة التي تنشر بها خدمة WhatsApp، وهي خدمة مشفرة من طرف إلى طرف، تقنية للكشف عن البرامج الضارة والفيروسات”.
ويحذر النقاد أيضًا من أن تقويض التشفير قد يشكل سابقة خطيرة للأنظمة الاستبدادية، التي يمكنها التلاعب بالتكنولوجيا لكشف الانتقادات واستهداف المنشقين.
وتقول مييه إن مثل هذا النوع من التخويف هو مجرد وسيلة لصرف الانتباه عن القضية الحقيقية.
إعلانوقالت: “هذه اللائحة سيكون لها ضمانات”. “أوروبا ديمقراطية وليست دكتاتورية. ودعونا لا نكون ساذجين: في ظل الديكتاتورية، عندما تريد التجسس على المواطنين فإنك تتجسس على المواطنين. لا تحتاج إلى لائحة جديدة.”
هل يستطيع وزراء الاتحاد الأوروبي التوصل إلى حل وسط؟
وقد هزت اللائحة التنظيمية المقترحة عواصم الاتحاد الأوروبي، حيث أعرب كثيرون عن قلقهم إزاء نضج التكنولوجيات والتهديد لخصوصية المستهلك. ويجوز للوزراء أن يختاروا إعطاء الضوء الأخضر لجوانب معينة من النص، في حين يؤجلون خططاً أخرى حتى تنضج التكنولوجيات بالقدر الكافي.
وقال مي وريانون ليورونيوز إن على الوزراء تجنب الرضوخ لضغوط شركات التكنولوجيا الكبرى وجماعات الضغط الرقمية. ويقولون إن الارتفاع الحاد في المواد المسيئة يظهر أن التدابير الطوعية التي تتخذها شركات التكنولوجيا لكشف المحتوى وإزالته غير كافية بشكل واضح. تشير دراسة أصدرها يوم الثلاثاء تحالف WeProtect العالمي إلى أن مواد الاعتداء الجنسي على الأطفال المبلغ عنها زادت بنسبة 87٪ منذ عام 2019.
وقال ريانون: “تصمم شركات التكنولوجيا منتجاتها لإغراء الأطفال وإشراكهم لأطول فترة ممكنة. إذا كان هذا هو نموذجهم، فيجب أن تكون بيئة آمنة للأطفال”.
وأضافت: “نموذج التنظيم الذاتي لشركات التكنولوجيا لم ينجح، وهذا واضح من عدد الأطفال الذين يتعرضون للإيذاء. علينا أن نسن تشريعات بشأن هذه القضية، وعلينا أن نجبر شركات التكنولوجيا على حماية الأطفال”. .
إعلانويعتقد مي أيضًا أن الكتلة تتحمل مسؤولية حماية الناجين من الانتهاكات المدعومة رقميًا من الصدمة مرة أخرى عند معرفة أن صور إساءة معاملتهم يتم عرضها يوميًا.
وقالت: “هؤلاء الناجون خائفون من كل شيء. إنهم غير قادرين على مغادرة منازلهم. وبالنسبة للبعض منهم، فإنهم خائفون حتى من استخدام الإنترنت. وهؤلاء أشخاص مهمشون تمامًا من المجتمع”. “علينا أن نحميهم. علينا أن نحمي الأطفال. يجب أن يأتي ذلك في المقام الأول في أذهان الجميع.”
