ظهرت نسخة من هذه القصة في نشرة What Matters الإخبارية على قناة CNN. للحصول عليه في صندوق الوارد الخاص بك، قم بالتسجيل مجانا هنا.
أحد العناوين الرئيسية المؤلمة من نيو هامبشاير بينما كان الناخبون يستعدون كان الإدلاء بأصواتهم الأولية شخصيًا هو أنه تم استخدام نسخة مزيفة من صوت الرئيس جو بايدن في مكالمات آلية يتم إنشاؤها تلقائيًا لثني الديمقراطيين عن المشاركة في الانتخابات التمهيدية.
الأمر ليس مزعجًا بسبب الرسالة في حد ذاتها، فقد عاقب الديمقراطيون ولاية نيو هامبشاير لإصرارها على إجراء انتخاباتها التمهيدية يوم الثلاثاء. ولم يكن بايدن موجودًا حتى في بطاقة الاقتراع، على الرغم من إطلاق حملة كتابية نيابة عنه.
الأمر المؤلم هو أنه على الرغم من أن الصوت يبدو مزيفًا، إلا أنه يبدو تمامًا مثل الرئيس، بل إنه يستخدم عبارة “malarkey” الخاصة بعلامته التجارية. استمع إليها هنا.
من الذي أنشأ الصوت؟ من يقف وراء robocall؟ كانت هناك تحذيرات منذ سنوات من حقبة جديدة من استخدام التزييف العميق للتلاعب بالانتخابات الأمريكية، من الداخل أو الخارج. البلد. هذا العصر هو لا يمكن إنكاره هنا.
لقد تحدثت إلى دوني أوسوليفان، مراسل CNN الذي يغطي كلاً من السياسة والتكنولوجيا، والذي كان يعمل على هذه القصة لسنوات. مقتطفات من محادثتنا أدناه.
ذئب: أنت تغطي هذه الأشياء كل يوم. ما الذي خطر ببالك عندما رأيت هذا العنوان؟
أوسوليفان: ربما تكون واحدة من أولى العناوين والقصص الكثيرة جدًا مثل هذه التي نرويها سوف نرى هذا العام.
إذا لم نكن قد وصلنا إليها بالفعل، فنحن على شفا انفجار المعلومات المضللة التي يولدها الذكاء الاصطناعي.
على الأغلب أن هذا تم إنشاء الصوت باستخدام الذكاء الاصطناعي. أعتقد أننا جميعًا أصبحنا على دراية بحقيقة أن هذه التكنولوجيا موجودة هناك، ولكن أعتقد أننا مستعدون للانطلاق في هذه الحملة الانتخابية الحالية.
والأهم من ذلك، أنه كان هناك تركيز كبير على مقاطع الفيديو المزيفة خلال السنوات القليلة الماضية.
لكن من الخبراء والأشخاص الآخرين الذين تحدثنا إليهم، أعتقد أن هناك قلقًا كبيرًا بشأن الصوت.
ذئب: ربما تكون مصطلحات مثل “التزييف العميق” جديدة على الكثير من الأشخاص. ما هو المسرد الأساسي الذي يحتاج الأشخاص إلى معرفته للبقاء على اطلاع على الأمور؟
أوسوليفان: يشير مصطلح “Deepfake” عادةً إلى مقطع فيديو مزيف تم إنشاؤه باستخدام الذكاء الاصطناعي. إنه في الأساس فيديو مزيف يبدو واقعيًا للغاية.
على مدى السنوات القليلة الماضية، سهّل الذكاء الاصطناعي عملية إنشاء الصور ومقاطع الفيديو والصوت المزيفة بطريقة أسهل.
يقوم الذكاء الاصطناعي بإنشاء مقاطع فيديو وصور وصوت مزيفة بطريقة مختلفة عن الطريقة التقليدية، والتي كانت عن طريق تقطيع الصوت معًا أو بواسطة Photoshop. هذه هي الآلات، أجهزة الكمبيوتر نفسها، التي تصنع الصور والصوت.
هذا نوع مختلف تمامًا من التكنولوجيا، وهو أكثر واقعية بكثير.
ذئب: ماذا نعرف عمن قد يكون وراء هذا؟ ليس هذه الحالة بالتحديد، لأننا لا نعرف، ولكن ماذا نعرف عن من يفعل هذا النوع من الأشياء؟
أوسوليفان: أي شخص والجميع. التحدي الذي سنواجهه في عام 2024 هو أن أي شخص يمكنه حقًا صنع هذه التزييفات العميقة المقنعة.
قبل بضع سنوات، قمنا بكتابة قصص حول التهديد الذي يشكله هذا النوع من التكنولوجيا. ولكن بعد ذلك قد يكون فقط دولة قومية مثل روسيا أو الصين أو أي شخص آخر لديه حق الوصول إلى هذه التكنولوجيا.
أعتقد أننا رأينا جميعًا خلال الـ 14 شهرًا الماضية تقريبًا مع ChatGPT أننا جميعًا نميل الآن إلى الوصول إلى هذه التكنولوجيا المجنونة والقوية.
سأعطي مثالا لهذا الوقت من العام الماضي:
لقد جربت برنامجًا مزيفًا لإنشاء الصوت، وهو متاح على نطاق واسع عبر الإنترنت، ثم اتصلت بوالدي في أيرلندا بصوتي المزيف، وقد وقع والدي في الفخ. كانت أمي تعلم أن شيئًا ما قد حدث، لكنها لم تكن متأكدة تمامًا مما يحدث. لقد وقع والدي في حب هذا الأمر وأجرى محادثة كاملة بصوت الذكاء الاصطناعي الخاص بي.
لقد تمكنا من تحقيق ذلك من خلال تسجيل صوتي لبضع دقائق فقط. لذا، بشكل أساسي، يمكنك أخذ صوت أي شخص، ويمكنك التقاط جميع المقاطع عبر الإنترنت للمرشحين، ويمكنك بشكل أساسي جعله يقول أي شيء.
مراسل CNN يتصل بوالديه باستخدام صوت الذكاء الاصطناعي. شاهد ما سيحدث بعد ذلك
ذئب: لا أعتقد أن أي شخص يتوقع أن تغير هذه المكالمة الآلية نتيجة الانتخابات التي لا يوجد فيها بايدن على بطاقة الاقتراع. ما هو التهديد النهائي؟
أوسوليفان: إننا نشهد بالفعل تقارير أساسية حول كيفية استخدام هذا النوع من التكنولوجيا في عمليات الاحتيال، خاصة لاستهداف الأشخاص الذين يجعلون الأمر يبدو وكأن أحد أحبائهم يتصل بهم ويطلب منهم تسليم الأموال. أشياء من هذا القبيل.
أعتقد أنك إذا نظرت إلى الحملات السياسية – عام 2012 وتعليق ميت رومني بنسبة 47% (عندما قال إن ما يقرب من نصف الأميركيين يعتمدون على الحكومة)، والذي تم تسجيله صوتيًا. دونالد ترامب بالطبع، مع شريط “Access Hollywood” في عام 2016.
طوال تاريخ الحملات السياسية الأمريكية الحديثة، لعبت التسجيلات الصوتية والأشرطة أدوارًا مهمة بشكل أساسي في الحملات. القلق هو أن الأشرطة تبدأ في الظهور عبر الإنترنت مما يجعل الأمر يبدو وكأن بايدن أو ترامب قالا شيئًا لم يقولاه حقًا، وربما شيئًا يدينك تمامًا.
الآن، من الواضح أن لدينا ضوابط وتوازنات لذلك. نحن نستشير خبراء الذكاء الاصطناعي وغيرهم من خبراء الطب الشرعي الرقمي الذين يمكنهم أن يقولوا، حسنًا، هذا لا يبدو صحيحًا تمامًا هنا. هناك أيضًا بعض التقنيات التي تم تطويرها لمحاولة اكتشاف هذه المنتجات المزيفة.
نعلم جميعًا أنه الآن في هذا العصر الحديث من المعلومات الخاطئة والمضللة، حتى عندما يتم التحقق من صحة شيء ما، يمكن لملايين أو عشرات الملايين من الأشخاص سماع مقطع صوتي مزيف قبل حدوث ذلك، ولا يزال من الممكن أن يزرع الشكوك في أذهان الناس.
ذئب: إذن ما هي نصيحتك للناس؟ كيف ينبغي عليهم التعامل مع شيء يرونه؟
أوسوليفان: خاصة منذ عام 2016، على مدى العقد الماضي، أعتقد أن الكثير منا، وخاصة الأشخاص الذين هم على نحو متزايد في السياسة، اعتدنا على هذه الحقبة من المعلومات الخاطئة والمضللة ونعلم أنه لا يمكنك الوثوق بكل ما تريد. اقرأ على الإنترنت.
ولكن الآن لا يمكنك الوثوق بكل ما تسمعه أو تشاهده فعليًا على الإنترنت أو في أي مكان آخر أيضًا.
وهذا هو أسهل من القيام به. إنه مجرد أمر عام ومطلق – الاجتهاد، والحصول على معلوماتك من مصادر موثوقة، وما إلى ذلك. وإليكم الأمر: أعتقد أن هذا النوع من التكنولوجيا يسمح بنوع مختلف تمامًا من المعلومات المضللة.
لأن قراءة شيء ما شيء واحد، ولكن إذا سمعت شريطًا أو شاهدت مقطع فيديو، أعتقد أن صدى ذلك سيكون بطريقة مختلفة تمامًا.
هناك الكثير من المعلومات المضللة، خاصة فيما يتعلق باليمين السياسي، ولكن يمكن لأي شخص أن يقع في فخ هذه الأشياء، وخاصة إذا كانت تصب في صالح السرد الموجود.
لدينا جميعًا أشخاص في عائلاتنا لديهم ميول سياسية بطريقة ما، ونود أن نعتقد أن الجانب الآخر هو الذي يحصل على معلومات خاطئة، لكنني لا أعتقد أن هذا هو الحال. وخاصة مع هذا النوع من التكنولوجيا.
ذئب: هل رأينا الجانب الآخر من الأشياء حيث قام شخص ما بإنشاء تزييف عميق ليكذب بشكل أساسي عن نفسه من أجل مصلحته الخاصة؟
أوسوليفان: لم أرى حقًا مثالاً على ذلك.
ما سأقوله هو أن العنصر الأكثر إثارة للذهن والبائس في كل هذا هو أننا جميعًا بحاجة إلى أن ندرك أن هذه التكنولوجيا موجودة هناك – لذلك نحن نعيش في هذا النوع من الواقع الجديد، أو غير الواقعي، حيث يصبح الناس وأكثر وعيًا بوجود هذه التكنولوجيا، التي تمنح السياسيين وغيرهم القدرة على إنكار شيء ربما حدث بالفعل.
على سبيل المثال، يمكنك أن تتخيل أنه إذا وصل شريط “Access Hollywood” في عام 2024، فيمكن أن يقول ترامب إنه مزيف عميق.
بالإضافة إلى خلق إمكانية وجود سيناريوهات مزيفة، فإنه يتيح أيضًا للأشخاص مساحة لإنكار السيناريوهات الحقيقية.
هناك شريط يتم التحقيق فيه الآن من قبل بعض السلطات الفيدرالية لـ (الناشط السياسي المؤيد لترامب) يُزعم أن روجر ستون تحدث عن اغتيال أعضاء الكونجرس.
وينفي أنه قال ذلك مطلقا. لذلك يمكنك بالفعل رؤية استخدام هذا النوع من الدفاع.
ذئب: نسخة الجيل التالي من “تم اختراق حسابي على تويتر” بينما لم يكن الأمر كذلك.
ذئب: الشيء المخيف بالنسبة لي هو أننا لا نعرف إلا ما نعرفه. نحن نعلم بوجود هذه المكالمة الآلية تحديدًا، ولكننا لا نعرف حقًا ما هو الموجود هناك أيضًا. لا يمكننا أن نقول على وجه اليقين من أين أتت أو من يقف وراءها.
لقد وصفت فترة تأخير في القدرة على التحقق من شيء ما عندما يتعرض له الأشخاص. وهذا شيء مهم. نحن نفترض أن ذلك كان بهدف تقليل نسبة المشاركة في حملة الكتابة لبايدن، لكننا لا نعرف أن هذا صحيح. انها لغزا. والمزيد من هذه الأشياء الموجودة هناك، لن يكون لدينا أي فكرة عنها.
أوسوليفان: أعتقد أنه نظرًا لسهولة صنع هذه الأشياء، خاصة عندما يتعلق الأمر بالصوت، فإن هذا لن يحدث على المستوى الرئاسي فقط. يمكن أن يحدث هذا على طول الطريق إلى صائد الكلاب.
إذا حدث شيء يتعلق ببايدن وترامب، فسيكون هناك الكثير من الأشخاص الذين ينتقدونه.
لكنني أعتقد أنه سيكون على كل مستوى – الولاية، والمقاطعة، والبلدة، والمدينة – وسيكون من الصعب اللحاق به.
إذا كنت تريد مثالًا مرئيًا للإشارة إليه، فقد كان هناك الكثير من المعلومات المضللة حول الانتخابات في تايوان قبل بضعة أسابيع. يوجد مقطع فيديو لعضو في الكونجرس الأمريكي تبين أنه مزيف للغاية، حيث يقول إنه يسعى للحصول على أصوات لمرشح الرئاسة التايواني.
ذئب: لقد كانت هذه محادثة محبطة للغاية. هل هناك ملاحظة متفائلة يمكنك تركها لنا؟
أوسوليفان: يمكنك أن تشعر ببعض الراحة من حقيقة أن والدتي تمكنت من اكتشاف وجود شيء ما في التزييف العميق.
أعتقد أن الناس أصبحوا أكثر وعيًا أيضًا. لا تثق بكل ما تقرأه على الإنترنت. وأود أن أعتقد أننا كمجتمع أصبحنا أفضل قليلًا في أن نكون أكثر تشككًا.
حقيقة أننا نجري هذه المحادثات الآن في شهر يناير أفضل من أن نتعلم جميعًا عن هذه التكنولوجيا في سبتمبر أو أكتوبر من هذا العام.
