انتشرت الصور الإباحية التي تم إنشاؤها بواسطة الذكاء الاصطناعي لأشهر نجم في العالم عبر وسائل التواصل الاجتماعي هذا الأسبوع، مما يؤكد الإمكانات الضارة التي تشكلها تكنولوجيا الذكاء الاصطناعي السائدة: قدرتها على إنشاء صور حقيقية وضارة بشكل مقنع.
كانت الصور المزيفة لتايلور سويفت في الغالب المتداولة على موقع التواصل الاجتماعي X، المعروف سابقًا باسم تويتر. وشوهدت الصور – التي تظهر المغنية في أوضاع موحية جنسيا وصريحة – عشرات الملايين من المرات قبل إزالتها من منصات التواصل الاجتماعي. لكن لم يختفي أي شيء على الإنترنت إلى الأبد، وستستمر بلا شك مشاركتهم على قنوات أخرى أقل تنظيمًا.
ولم يستجب المتحدث باسم سويفت لطلب التعليق.
مثل معظم منصات التواصل الاجتماعي الكبرى، سياسات X حظر المشاركة “الوسائط الاصطناعية أو المتلاعب بها أو الخارجة عن السياق والتي قد تخدع الناس أو تربكهم وتؤدي إلى الأذى.”
ولم تستجب الشركة لطلب CNN للتعليق.
ويأتي هذا الحادث في الوقت الذي تتجه فيه الولايات المتحدة إلى عام الانتخابات الرئاسية، وتتزايد المخاوف بشأن كيفية استخدام الصور ومقاطع الفيديو المضللة التي تم إنشاؤها بواسطة الذكاء الاصطناعي لقيادة جهود التضليل وتعطيل التصويت في نهاية المطاف.
وقال بن ديكر، الذي يدير وكالة التحقيقات الرقمية Memetica، لشبكة CNN: “هذا مثال رئيسي على الطرق التي يتم بها إطلاق العنان للذكاء الاصطناعي للعديد من الأسباب الشائنة دون وجود حواجز حماية كافية لحماية الساحة العامة”.
وقال ديكر إن استغلال أدوات الذكاء الاصطناعي التوليدية لإنشاء محتوى قد يكون ضارًا ويستهدف جميع أنواع الشخصيات العامة يتزايد بسرعة وينتشر بشكل أسرع من أي وقت مضى عبر وسائل التواصل الاجتماعي.
وقال: “لا تمتلك شركات وسائل التواصل الاجتماعي خططًا فعالة لمراقبة المحتوى بالضرورة”.
على سبيل المثال، قامت X، على سبيل المثال، بتدمير فريق الإشراف على المحتوى الخاص بها واعتماده على الأنظمة الآلية وإعداد تقارير المستخدم. (في الاتحاد الأوروبي، يخضع X حاليًا للتحقيق بشأن ممارساته المتعلقة بالإشراف على المحتوى).
قامت ميتا أيضًا بإجراء تخفيضات على فرقها التي تعالج المعلومات المضللة وحملات التصيد والمضايقات المنسقة على منصاتها، حسبما قال أشخاص لديهم معرفة مباشرة بالوضع لشبكة CNN، مما أثار مخاوف قبل انتخابات 2024 المحورية في الولايات المتحدة وحول العالم.
ليس من الواضح من أين نشأت الصور المتعلقة بتايلور سويفت. وعلى الرغم من العثور على بعض الصور على مواقع مثل Instagram وReddit، إلا أنها كانت مشكلة واسعة النطاق على X على وجه الخصوص.
ويتزامن الحادث أيضًا مع ظهور أدوات توليد الذكاء الاصطناعي مثل ChatGPT و Dall-E. ومع ذلك، هناك أيضًا عالم أوسع بكثير من نماذج الذكاء الاصطناعي غير الخاضعة للإشراف وغير الآمنة للعمل في المنصات مفتوحة المصدر، كما قال ديكر.
“يشير هذا إلى نوع أكبر من التصدع في الإشراف على المحتوى وإدارة المنصة لأنه إذا كان جميع أصحاب المصلحة – شركات الذكاء الاصطناعي وشركات التواصل الاجتماعي والمنظمين والمجتمع المدني – لا يتحدثون عن نفس الأشياء وعلى نفس الصفحة حول كيفية معالجة وأضاف: “لهذه القضايا، فإن هذا النوع من المحتوى سيستمر في الانتشار”.
ومع ذلك، قال ديكر إن استهداف سويفت يمكن أن يجذب المزيد من الاهتمام للقضايا المتزايدة حول الصور المولدة بواسطة الذكاء الاصطناعي. أعربت فرقة سويفت الهائلة من “Swifties” المخلصين عن غضبهم على وسائل التواصل الاجتماعي هذا الأسبوع، مما أدى إلى تسليط الضوء على القضية. في عام 2022، أثار انهيار شركة Ticketmaster قبل حفلها الموسيقي في Eras Tour غضبًا عبر الإنترنت، مما أدى إلى العديد من الجهود التشريعية للقضاء على سياسات التذاكر غير الصديقة للمستهلك.
واقترح ديكر أن الأمر نفسه ربما ينطبق على إتلاف الصور التي ينتجها الذكاء الاصطناعي.
وقال: “عندما يكون لديك شخصيات مثل تايلور سويفت بهذا الحجم (المستهدفة)، فربما يكون هذا هو ما يدفع المشرعين وشركات التكنولوجيا إلى اتخاذ إجراء لأنهم لا يستطيعون تحمل تواجد حبيبة أمريكا في حملة عامة ضدهم”. “أعتقد أنهم بحاجة إلى جعلها تشعر بالتحسن لأنها تتمتع على الأرجح بنفوذ أكبر من أي شخص آخر على الإنترنت تقريبًا.”
تم استخدام هذا النوع من التكنولوجيا لإنشاء ما يعرف باسم “الإباحية الانتقامية” – نشر صور فاضحة لشخص ما عبر الإنترنت دون موافقته – لفترة من الوقت الآن ولكنه يحظى باهتمام متجدد الآن بسبب الصور المسيئة لـ Swift.
لدى تسع ولايات أمريكية حاليًا قوانين ضد إنشاء أو مشاركة صور فوتوغرافية غير توافقية، وهي صور اصطناعية تم إنشاؤها لتقليد مظهر الشخص.
