سلط تداول الصور الفاضحة والإباحية للنجمة تايلور سويفت هذا الأسبوع الضوء على قدرة الذكاء الاصطناعي على خلق صور حقيقية ومضرة ومزيفة بشكل مقنع. الصور.
لكن المفهوم ليس جديدًا على الإطلاق: لقد تحول الناس إلى أسلحة هذا النوع من التكنولوجيا ضد النساء والفتيات لسنوات. ومع ظهور أدوات الذكاء الاصطناعي وزيادة الوصول إليها، يقول الخبراء إن الأمر على وشك أن يصبح أسوأ بكثير، للجميع من الأطفال في سن المدرسة إلى البالغين.
وبالفعل، أفاد بعض طلاب المدارس الثانوية في جميع أنحاء العالم، من نيوجيرسي إلى إسبانيا، أن وجوههم تم التلاعب بها بواسطة الذكاء الاصطناعي ومشاركتها عبر الإنترنت من قبل زملاء الدراسة. وفي الوقت نفسه، اكتشفت إحدى الشابات المشهورات على موقع Twitch أن صورتها تُستخدم في مقطع فيديو إباحي مزيف وصريح انتشر بسرعة في جميع أنحاء مجتمع الألعاب.
وقالت دانييل سيترون، الأستاذة في كلية الحقوق بجامعة فيرجينيا: “الأمر لا يقتصر على المشاهير فقط”. “إنهم الناس العاديون. إنهم الممرضات وطلاب الفن والقانون والمدرسون والصحفيون. لقد رأينا قصصًا حول كيفية تأثير ذلك على طلاب المدارس الثانوية والعاملين في الجيش. إنه يؤثر على الجميع.”
ولكن على الرغم من أن هذه الممارسة ليست جديدة، إلا أن استهداف Swift يمكن أن يجذب المزيد من الاهتمام للقضايا المتزايدة حول الصور المولدة بواسطة الذكاء الاصطناعي. أعربت مجموعة هائلة من “Swifties” المخلصين عن غضبهم على وسائل التواصل الاجتماعي هذا الأسبوع، مما دفع القضية إلى الواجهة. في عام 2022، أثار انهيار شركة Ticketmaster قبل حفلها الموسيقي في Eras Tour غضبًا عبر الإنترنت، مما أدى إلى العديد من الجهود التشريعية للقضاء على سياسات التذاكر غير الصديقة للمستهلك.
وقال سيترون: “إنها لحظة مثيرة للاهتمام لأن تايلور سويفت محبوبة للغاية”. “قد يكون الناس مهتمين أكثر لأن الشخص الذي يحظى بالإعجاب بشكل عام لديه قوة ثقافية. … إنها لحظة حساب.
الصور المزيفة لتايلور سويفت في الغالب انتشر على موقع التواصل الاجتماعي X، المعروف سابقًا باسم Twitter. وشوهدت الصور – التي تظهر المغنية في أوضاع موحية جنسيا وصريحة – عشرات الملايين من المرات قبل إزالتها من منصات التواصل الاجتماعي. لكن لم يختفي أي شيء على الإنترنت إلى الأبد، وستستمر بلا شك مشاركتهم على قنوات أخرى أقل تنظيمًا.
على الرغم من انتشار تحذيرات صارخة حول كيفية استخدام الصور ومقاطع الفيديو المضللة التي ينتجها الذكاء الاصطناعي لعرقلة الانتخابات الرئاسية وقيادة جهود التضليل، كان هناك خطاب عام أقل حول كيفية التلاعب بوجوه النساء، دون موافقتهن، في مقاطع فيديو إباحية عدوانية في كثير من الأحيان. صور فوتوغرافية.
الاتجاه المتنامي هو ما يعادل الذكاء الاصطناعي لممارسة تُعرف باسم “الإباحية الانتقامية”. وأصبح من الصعب بشكل متزايد تحديد ما إذا كانت الصور ومقاطع الفيديو أصلية.
لكن الأمر المختلف هذه المرة هو أن قاعدة المعجبين المخلصين لـ Swift قد توحدت معًا لاستخدام أدوات إعداد التقارير لإزالة المنشورات بشكل فعال. قال سيترون: “لقد شارك الكثير من الناس في هذا الجهد، لكن معظم الضحايا ليس لديهم سوى أنفسهم”.
على الرغم من أن X استغرق 17 ساعة لإزالة الصور، إلا أن العديد من الصور التي تم التلاعب بها لا تزال منشورة على مواقع التواصل الاجتماعي. وفقاً لبن ديكر، الذي يدير وكالة التحقيقات الرقمية Memetica، فإن شركات وسائل التواصل الاجتماعي “ليس لديها خطط فعالة لمراقبة المحتوى بالضرورة”.
مثل معظم منصات التواصل الاجتماعي الكبرى، سياسات X حظر المشاركة “الوسائط الاصطناعية أو المتلاعب بها أو الخارجة عن السياق والتي قد تخدع الناس أو تربكهم وتؤدي إلى الأذى.” ولكن في الوقت نفسه، قامت X بتدمير فريق الإشراف على المحتوى الخاص بها إلى حد كبير واعتماده على الأنظمة الآلية وإعداد تقارير المستخدم. (في الاتحاد الأوروبي، يخضع X حاليًا للتحقيق بشأن ممارساته المتعلقة بالإشراف على المحتوى).
ولم تستجب الشركة لطلب CNN للتعليق.
قامت شركات التواصل الاجتماعي الأخرى أيضًا بتخفيض فرق الإشراف على المحتوى الخاصة بها. على سبيل المثال، قامت شركة ميتا بإجراء تخفيضات على فرقها التي تعالج المعلومات المضللة ونسقت حملات التصيد والمضايقات على منصاتها، حسبما قال أشخاص لديهم معرفة مباشرة بالوضع لشبكة CNN، مما أثار مخاوف قبل انتخابات 2024 المحورية في الولايات المتحدة وحول العالم.
وقال ديكر إن ما حدث لسويفت هو “مثال ساطع على الطرق التي يتم بها إطلاق العنان للذكاء الاصطناعي للعديد من الأسباب الشائنة دون وجود حواجز حماية كافية لحماية الساحة العامة”.
وعندما سُئلت عن الصور يوم الجمعة، قالت السكرتيرة الصحفية للبيت الأبيض كارين جان بيير: “إنه أمر مثير للقلق. نحن منزعجون من التقارير التي تتحدث عن تداول الصور التي نشرتموها للتو – صور زائفة، على وجه التحديد، وهي مثيرة للقلق.
عل الرغم من هذا لقد كانت التكنولوجيا متاحة منذ فترة، لكنها أصبحت تحظى باهتمام متجدد الآن بسبب الصور المسيئة لـ Swift.
في العام الماضي، أطلقت طالبة في مدرسة ثانوية في نيوجيرسي حملة من أجل إصدار تشريعات فيدرالية لمعالجة الصور الإباحية التي ينتجها الذكاء الاصطناعي بعد أن قالت إن صورها و30 زميلة أخرى قد تم التلاعب بها وربما مشاركتها عبر الإنترنت.
وأعربت فرانشيسكا ماني، الطالبة في مدرسة ويستفيلد الثانوية، عن إحباطها إزاء عدم وجود سبيل قانوني لحماية ضحايا المواد الإباحية التي ينتجها الذكاء الاصطناعي. وقالت والدتها لشبكة CNN إنه يبدو أن “صبياً أو بعض الأولاد” في المجتمع قاموا بإنشاء الصور دون موافقة الفتيات.
وقال الدكتور ريموند غونزاليس، مشرف ويستفيلد، لشبكة CNN في بيان في ذلك الوقت: “تتصارع جميع المناطق التعليمية مع تحديات وتأثير الذكاء الاصطناعي والتكنولوجيا الأخرى المتاحة للطلاب في أي وقت وفي أي مكان”.
في فبراير 2023، ظهرت مشكلة مماثلة في مجتمع الألعاب عندما تم القبض على أحد لاعبي ألعاب الفيديو البارزين على منصة Twitch الشهيرة وهو يشاهد مقاطع فيديو مزيفة بعمق. لبعض زميلاته في البث المباشر على Twitch. قال برنامج البث على Twitch “Sweet Anita” لاحقًا لشبكة CNN إنه “أمر سريالي للغاية أن تشاهد نفسك تفعل شيئًا لم تفعله من قبل”.
لقد سهّل ظهور الأدوات التي أنشأها الذكاء الاصطناعي والوصول إليها على أي شخص إنشاء هذه الأنواع من الصور ومقاطع الفيديو أيضًا. ويوجد أيضًا عالم أوسع بكثير من نماذج الذكاء الاصطناعي غير الخاضعة للإشراف وغير الآمنة للعمل في منصات مفتوحة المصدر، وفقًا لديكر.
ولا يزال تضييق الخناق على هذا أمرًا صعبًا. لدى تسع ولايات أمريكية حاليًا قوانين ضد إنشاء أو مشاركة صور فوتوغرافية غير توافقية، وهي صور اصطناعية تم إنشاؤها لتقليد مظهر الشخص، ولكن لا يوجد أي منها على المستوى الفيدرالي. يدعو العديد من الخبراء إلى إجراء تغييرات على القسم 230 من قانون آداب الاتصالات، الذي يحمي المنصات عبر الإنترنت من المسؤولية عن المحتوى الذي ينشئه المستخدمون.
وقال سيترون: “لا يمكن معاقبة ذلك بموجب قوانين استغلال الأطفال في المواد الإباحية… والأمر مختلف، بمعنى أنه لا يحدث أي اعتداء جنسي على الأطفال”. “لكن الذل والشعور بالتحول إلى شيء، وجعل الآخرين يرونك كشيء جنسي وكيف تستوعب هذا الشعور … هو مجرد أمر مدمر للغاية لاحترامك الاجتماعي.”
يمكن للأشخاص اتخاذ بعض الخطوات الصغيرة للمساعدة في حماية أنفسهم من استخدام صورهم في صور غير موافقة عليهم.
ينصح خبير أمن الكمبيوتر ديفيد جونز، من شركة خدمات تكنولوجيا المعلومات Firewall Technical، الأشخاص بضرورة مراعاة الحفاظ على خصوصية الملفات الشخصية ومشاركة الصور فقط مع الأشخاص الموثوق بهم لأنك “لا تعرف أبدًا من يمكنه الاطلاع على ملفك الشخصي”.
ومع ذلك، فإن العديد من الأشخاص الذين يشاركون في “الإباحية الانتقامية” يعرفون شخصيًا أهدافهم، لذا فإن الحد من ما يتم مشاركته بشكل عام هو الطريق الأكثر أمانًا.
بالإضافة إلى ذلك، تتطلب الأدوات المستخدمة لإنشاء صور صريحة أيضًا الكثير من البيانات الأولية والصور التي تظهر الوجوه من زوايا مختلفة، لذلك كلما قل عدد الأشخاص الذين يتعين عليهم العمل معها كان ذلك أفضل. ومع ذلك، حذر جونز من أنه نظرًا لأن أنظمة الذكاء الاصطناعي أصبحت أكثر كفاءة، فمن الممكن في المستقبل أن تكون هناك حاجة إلى صورة واحدة فقط لإنشاء نسخة مزيفة بعمق لشخص آخر.
يمكن أن يسعى المتسللون أيضًا إلى استغلال ضحاياهم من خلال الوصول إلى صورهم. وقال: “إذا تم تحديد المتسللين، فقد يحاولون كسر كلمات المرور الخاصة بك حتى يتمكنوا من الوصول إلى الصور ومقاطع الفيديو الخاصة بك التي تشاركها على حساباتك”. “لا تستخدم أبدًا كلمة مرور سهلة التخمين، ولا تكتبها أبدًا.”
بيتسي كلاين من سي إن إن لهذا التقرير
