في أحد أيام شهر أكتوبر الماضي، عادت فرانسيسا ماني إلى منزلها من مدرستها في ضواحي نيوجيرسي حاملة أخبارا غير سعيدة لوالدتها، دوروتا، بعد أن تم إخطارها بأنها ومجموعة من زميلاتها بالمؤسسة التعليمية الثانوية، وقعن ضحية زميلة أخرى لهن، نشرت صورهن عاريات، باستخدام تقنية التزييف العميق التي تتيحها تطبيقات للذكاء الاصطناعي.
كانت والدة فرانسيسا، على دراية تامة بقوة هذه التكنولوجيا الجديدة نسبيا، لكن السهولة التي تم بها إنشاء الصور أذهلتها، تقول: “لم أكن أعرف مدى السرعة التي يمكن أن يحدث بها ذلك، بصورة واحدة فقط.. يمكن أن يكون أي شخص ضحية لها، بنقرة زر واحدة”.
ووفقا لتفاصيل دعوى قضائية فيدرالية رفعتها مؤخرا عائلة فتاة أخرى تدرس بنفس المؤسسة، تم إنشاء الصور عبر استخدام تطبيق يسمى “ClothOff”، والذي يعمل تحت طبقة عميقة من السرية، حيث أن مطوريه مجهولين.
وكشف تحقيق أعدته “الغارديان”، عن أسماء العديد من الأشخاص المرتبطين بالتطبيق، الذي يستقبل ملايين الزيارات شهريا، وأوضحت الصحيفة أنه “يرتبط ببيلاروسيا وروسيا”.
ويمكن لبرامج تعمل بالذكاء الاصطناعي، أن تصمم صورا عارية بناء على تحليلات للصور العادية المنشورة على مواقع التواصل الاجتماعي، مما يجعلها تبدو وكأنها حقيقية بدرجة كبيرة ومتناسقة.
ويؤكد خبراء الذكاء الاصطناعي أن هناك الآن العشرات من البرامج المجانية التي يمكن من خلالها تبديل الوجه وإزالة الملابس من الصور الحقيقية، حيث من الصعب على العين البشرية التمييز بين الحقيقي والمزيف.
وقررت فرانسيسا ماني ووالدتها اتخاذ إجراءات من أجل تحميل الجناة المزعومين المسؤولية الجنائية عن إنشاء ونشر صورها، إلا أن خيبة أملهما كانت كبيرة بسبب عدم وجود قوانين تخص هذا النوع من القضايا.
ومنذ ذلك الحين، قامت الفتاة ووالدتها بعدد من الرحلات إلى واشنطن، بما في ذلك حضور خطاب حالة الاتحاد، الأسبوع الماضي، وظهرتا معا في قنوات الأخبار واستشهد مشرعون في كل من نيوجيرسي والعاصمة بتجربتهما من أجل الحث على إخراج تشريعات جديدة لمحاسبة منشئي محتوى التزييف العميق، وخاصة الجنسي.
وكانت دراسة نشرت عام 2019 لشركة “سينسيتي” للذكاء الاصطناعي، المخصصة في رقابة المقاطع المزيفة، أشارت إلى أن “96 بالمئة من مواد التزييف العميق كانت إباحية، و99 بالمئة منها تستهدف النساء”.
وكشفت حادثة مدرسة ويستفيلد، وغيرها من القضايا المشابهة، عن ثغرات متزايدة في القوانين الفيدرالية وقوانين الولايات التي يتفق مشرعون على على أنها لا تكفل حماية الضحايا بالشكل المطلوب، وخاصة القاصرين منهم.
وقالت يوتا سوراس، كبيرة المستشارين القانونيين في المركز الوطني للأطفال المفقودين والمستغلين، إن “خطرا كبيرا يحيط بهذه التطبيقات.. لأن حجم ضحاياه، في وقت قصير جدا، كان هائلا”.
وعمل المركز، بشكل مباشر مع عائلة ماني خلال محاولتها معرفة ما إذا كانت أي من الصور التي تم إنشاؤها، قد تم تداولها بشكل أكبر عبر الإنترنت.
وتلقى آباء الضحايا تأكيدات من مسؤولي المدرسة بأن الصور المزيفة العميقة قد تم حذفها، لكن المدرسة لم تعلن علنا عن عدد الطلاب المتأثرين.
وقالت مدرسة ويستفيلد العامة، إنها بدأت تحقيقا في الحادث بمجرد علمها به، وقدمت المشورة “للطلاب الذين يبحثون عن الدعم”.
وقال المشرف على المدرسة، ريموند غونزاليس: “تتصارع جميع المناطق التعليمية مع تحديات وتأثير الذكاء الاصطناعي والتكنولوجيا الأخرى المتاحة للطلاب”، مضيفًا أن المدرسة “تواصل تعزيز الجهود لمنع وقوع حوادث مستقبلية” من خلال “تثقيف طلابنا”، إضافة إلى وضع مبادئ توجيهية واضحة لضمان استخدام هذه التقنيات الجديدة بشكل مسؤول في مدارسنا وخارجها.
وأنكرت شركة “ClothOff” استخدام منصتها في قضية نيوجيرسي، واقترحت أنه ربما كان تطبيقا منافسا، ولكنها لم تقدم أي دليل لإثبات هذا الادعاء، وفقا للغارديان.
وبعد وقت قصير من التحدث علنا، دعيت الأم وابنتها إلى واشنطن لحضور تقديم مشروع قانون منع التزييف العميق للصور الحميمة، في الكونغرس.
ويسعى التشريع إلى جعل مشاركة الصور الحميمية المعدلة رقميا جريمة جنائية، ويتيح أيضا للضحايا بمقاضاة الجناة في محكمة مدنية.
وقالت فرانشيسكا خلال حضورها الجلسة الكشف عن التشريع في واشنطن: “لمجرد أنني مراهقة لا يعني أن صوتي ليس قويا.. البقاء صامتة؟ ليس خيارا.”
وفي نيوجيرسي، حصل مشروع قانون تم تقديمه في أعقاب الحادثة التي وقعت في مدرسة ويستفيلد الثانوية على موافقة لجنة بمجلس الشيوخ، الجمعة الماضي، بدعم من الحزبين.
وقال متحدث باسم عضو الكونغرس في نيويورك، جو موريل، الذي قدم قانون منع التزييف العميق للصور الحميمة، إن الأم وابنتها “أخذتا الصدمة وحولتاها إلى دعوة شرسة لضمان عدم معاناة المزيد من النساء من الألم الذي قاسته فرانشيسكا”.
وأضاف المتحدث، أن التقارير الأخيرة التي نشرتها صحيفة الغارديان والتي كشفت عن بعض الأفراد المرتبطين بتطبيق ClothOff”، تؤكد “سبب ضرورة فرض عقوبات جنائية ومدنية لمحاسبة الأشخاص على هذا السلوك الدنيء”.
ووفقا للصحيفة، فإن الحادثة التي وقعت في نيوجيرسي ليست الوحيدة بالولايات المتحدة. ففي الأسبوع الماضي، طردت مدرسة إعدادية في بيفرلي هيلز، 5 طلاب، بعد أن قاموا بإنشاء صور مزيفة لـ 16 من طلاب الصف الثامن، بواسطة الذكاء الاصطناعي.
ولم يعلق المتحدث باسم مجلس إدارة المدرسة على التطبيق الذي تم استخدامه لإنشاء الصور.
وقال مايكل بريجي، المشرف على منطقة المدارس الموحدة في بيفرلي هيلز: “أصبحت هذه التكنولوجيا الناشئة في متناول الأفراد من جميع الأعمار بشكل متزايد”.
ويضيف: “إننا نشعر بالفزع إزاء أي سوء استخدام للذكاء الاصطناعي، ويجب علينا حماية أفراد المجتمع الأكثر ضعفا، وهم أطفالنا.”
