قد يبدو ساحر شوارع نيو أورليانز، الذي ليس لديه عنوان ثابت، ولم يصوت مطلقًا ويدعي أنه يحمل رقمًا قياسيًا عالميًا في ثني الشوكة، وكأنه مرشح غير محتمل للمشاركة في فضيحة سياسية عالية التقنية.
لكن يوم الجمعة، دخل بول كاربنتر – الذي تشمل مآثره السحرية الهروب من سترة مقيدة في أقل من 11 ثانية – دائرة الضوء السياسي الوطني عندما كشف عن نفسه على أنه مبتكر مكالمة آلية تم إنشاؤها بواسطة الذكاء الاصطناعي تقلد صوت الرئيس جو بايدن والتي تم إرسالها إلى الناخبين في نيو هامبشاير. .
وقال كاربنتر لشبكة CNN في مقابلة، إنه تم تعيينه لإنشاء التسجيل الصوتي المزيف من قبل مستشار سياسي يعمل في حملة النائب عن مينيسوتا دين فيليبس، المنافس الديمقراطي لبايدن. لقد قدم رسائل نصية وسجلات Venmo وسجلات أخرى لدعم حسابه.
وقد حفزت المكالمة الآلية، التي حثت الديمقراطيين على تخطي التصويت في الانتخابات التمهيدية في نيو هامبشاير، تحقيقات إنفاذ القانون والمخاوف بشأن مستقبل تأثير الذكاء الاصطناعي على السياسة الأمريكية. وقال كاربنتر إنه لا يعرف كيف سيتم استخدام الصوت، وإنه “منكسر القلب” لأن عمله كان من الممكن أن يقنع الناس بعدم الإدلاء بأصواتهم.
قال: “أنا ساحر ومنوم مغناطيسي”. “أنا لست في المجال السياسي، لقد أُلقيت للتو في هذا الشيء.”
ورفض مستشار فيليبس، ستيف كرامر، التعليق يوم الجمعة، ونأت حملة فيليبس بنفسها عن كرامر، قائلة إنها ليس لديها علم بتورطه المزعوم في المكالمة الآلية.
تم الإبلاغ عن ادعاءات كاربنتر لأول مرة يوم الجمعة بواسطة NBC News.
كان أصل المكالمة الآلية ــ أول جهد كبير لاستخدام الذكاء الاصطناعي لتقليد رئيس أميركي في محاولة لقمع الأصوات ــ لغزا محل نقاش كبير بين الدوائر السياسية منذ إرساله إلى أكثر من 20 ألف شخص في أواخر يناير/كانون الثاني. صوت يبدو وكأنه صوت بايدن يحث المستمعين على عدم التصويت في الانتخابات التمهيدية وبدلاً من ذلك “احتفظ بصوتك” لانتخابات نوفمبر.
وأعلن المدعي العام في نيو هامبشاير في وقت سابق من هذا الشهر أنه فتح تحقيقا جنائيا في المكالمة وربطها بشركتي اتصالات مقرهما تكساس. وقال مسؤول أمريكي كبير مطلع على الأمر لشبكة CNN إن مسؤولي إنفاذ القانون في الولايات المتحدة يراقبون الحادث عن كثب لتحديد ما إذا كانت جريمة فيدرالية قد ارتكبت.
تم تعيين كرامر من قبل حملة فيليبس للمساعدة في جهود الاقتراع في نيويورك وبنسلفانيا، ودفعت الحملة لشركته ما مجموعه أكثر من 250 ألف دولار في ديسمبر ويناير، حسبما تظهر سجلات لجنة الانتخابات الفيدرالية.
عمل كرامر، وهو مستشار سياسي منذ فترة طويلة، في محاولة كاني ويست الرئاسية لعام 2020، وله تاريخ في إنتاج المكالمات الآلية. وقالت حملة فيليبس إنها ليس لديها علم بتورطه المزعوم في مكالمة بايدن مع الذكاء الاصطناعي.
وقالت كاتي دولان، المتحدثة باسم فيليبس، لشبكة CNN في بيان يوم الجمعة: “إذا كان صحيحاً أن السيد كرامر كان له أي دور في إنشاء مكالمات آلية عميقة التزييف، فقد فعل ذلك بمحض إرادته، وهو ما لا علاقة له بحملتنا”.
قال دولان: “الفكرة الأساسية لحملتنا هي أهمية المنافسة والاختيار والديمقراطية”. وأضاف: “نشعر بالاشمئزاز عندما علمنا أن السيد كرامر يقف وراء هذه الدعوة، وإذا كانت هذه الادعاءات صحيحة، فإننا ندين أفعاله تمامًا”. وقال دولان إن كرامر لم يعد يعمل في الحملة.
أحال كرامر طلبًا للتعليق إلى هانك شينكوبف، المستشار السياسي في نيويورك. وقال شينكوبف، الذي قال إنه كان يعمل كمتحدث باسم كرامر، لشبكة CNN إن كرامر “سيكون لديه بيان يدلي به بعد الانتخابات التمهيدية في ساوث كارولينا” يوم السبت، لكنه رفض التعليق أكثر قبل ذلك.
في الشهر الماضي، رفض فيليبس، الذي يمثل منطقة مينيابوليس في مجلس النواب الأمريكي، فكرة أن المكالمة الآلية ربما جاءت من أحد مؤيديه. وقال لجيك تابر من شبكة سي إن إن: “إذا كان الأمر كذلك، سأكون أول من يدين ذلك”.
قال: “من فعل ذلك، فهو مخطئ، ولهذا السبب بالضبط نحتاج إلى زعيم لا يبلغ من العمر 80 عامًا، يمكنه فهم ما سيأتي”، مؤطرًا نفسه على أنه أكثر ملاءمة للتعامل مع تنظيم الذكاء الاصطناعي من بايدن أو الرئيس السابق دونالد ترامب، المرشح الأوفر حظا للفوز بترشيح الحزب الجمهوري.
وقال كاربنتر، الذي أدى حيل الورق وثني شوكة خلال مقابلة مع شبكة سي إن إن يوم الجمعة، إنه تعرف على كرامر في الشارع في نيو أورليانز من قبل أحد معارفه. يقول كاربنتر، 47 عامًا، الذي يصف نفسه بأنه “بدوي رقمي” ويقضي وقته في السفر حول الولايات المتحدة وأداء السحر وتصميم مواقع الويب وغيرها من الوظائف المستقلة، إنه كان مهتمًا منذ فترة طويلة بتعلم أحدث التطورات التكنولوجية.
وقال: “إذا درست تاريخ السحر، ستعرف أن السحرة استخدموا دائمًا أحدث أشكال التكنولوجيا”.
وقال كاربنتر إنه قام بالعديد من مشاريع تقليد الصوت باستخدام الذكاء الاصطناعي لصالح كرامر، بما في ذلك الصوت الذي بدا مثل السيناتور ليندسي جراهام من ولاية كارولينا الجنوبية، قبل أن يرسل له كرامر نصًا للمكالمة التي تحاكي بايدن. وقال إنه قام بإنشاء تسجيل صوتي للرئيس من خلال خدمة الصوت AI ElevenLabs، التي قالت إنها قامت بإلغاء تنشيط الحساب المرتبط بمكالمة بايدن المزيفة.
وقال كاربنتر إن العملية تستغرق “خمس دقائق وعشر دقائق فقط”. “أستطيع أن أجعل أي شخص يقول ما أريد.”
كاربنتر، الذي قال إنه لم يدلي بصوته مطلقًا في حياته، رأى الوظيفة على أنها مجرد “حفلة أخرى” وادعى أنه لم يدرك الآثار السياسية لما كان ينشئه. وقال إنه لم يسمع قط عن فيليبس، وافترض أن كرامر كان يعمل لصالح بايدن نفسه.
قال كاربنتر إن كرامر رتب لوالده، بروس كرامر، أن يدفع لكاربنتر 150 دولارًا على Venmo لإجراء مكالمة الذكاء الاصطناعي، وقدم لقطات شاشة لمعاملات Venmo من حساب باسم Bruce Kramer. وقال بروس كرامر لشبكة CNN: “لا أستطيع تأكيد أو نفي أي شيء في هذه المرحلة”.
بعد انتشار الأخبار حول المكالمة الآلية المزيفة، أرسل كرامر إلى كاربنتر رابطًا لمقال حول هذا الموضوع وكلمة “Shhhhhhhh”، وفقًا للقطة شاشة لرسالة نصية عرضها كاربنتر لشبكة CNN. وقال إن كريمر طلب منه حذف جميع رسائل البريد الإلكتروني بينهما، وقد فعل ذلك.
وشدد محامي كاربنتر، براندون كيزي – الذي قال كاربنتر إنه وجده على موقع Reddit ويمثله مجانًا – على أن كاربنتر لم يكن على علم بأي خطط لاستخدام المكالمة الآلية عندما قام بذلك.
وقال كيزي في بيان: “لم يكن لدى بول معرفة مسبقة بالغرض الذي سيتم استخدام المحتوى الناتج عن الذكاء الاصطناعي ولم يكن لدى بول أي علم بأنه سيتم استخدامه للتأثير أو استخدامه فيما يتعلق بأي انتخابات أو نشاط ناخب”. .
وكما تقول الشخصيات التي كانت في قلب الفضائح السياسية الأميركية، فمن المؤكد أن كاربنتر “غريب الأطوار” ــ وهي الكلمة التي يستخدمها لوصف نفسه. في المقابلة، تحدث عن الأعمال المثيرة التي نشرها على مقاطع فيديو عبر الإنترنت، بما في ذلك مقطع لعب فيه دور شخصيات مختلفة – يرتدي وجهًا أسود، ويدخل إلى مرحاض النساء، ويرسم صليبًا معقوفًا على جبهته – فيما أوضح أنه جهد لجمع الناس معا.
“ما الفرق بين الحقائق والحقيقة؟” يسأل في الفيديو وهو يقف في النهر ولا يرتدي سوى ورقة شجر.
تظهر القليل من الحيل السحرية في الملفات الشخصية الاجتماعية لكاربنتر، لكنه نشر مقطع فيديو آخر على الأقل مزيفًا لبايدن على حسابه على فيسبوك. وفي مقطع الفيديو الذي تبلغ مدته ثلاث ثوان، يبدو أن بايدن يقول: “هذه نهاية وسائل الإعلام كما نعرفها. السؤال التالي؟” وكتب كاربنتر في منشور أنه صنع الفيديو في “خمس دقائق”.
قال مراقبون سياسيون إن فضيحة المكالمات الهاتفية الآلية – ودور كاربنتر فيها – هي علامة على مدى سهولة تأثير أي شخص على السياسة باستخدام أدوات الذكاء الاصطناعي التي أصبح من السهل الوصول إليها بشكل متزايد.
وقال هاني فريد، الأستاذ بجامعة كاليفورنيا في بيركلي والذي شارك في الدراسة: “لقد أضفنا الآن طابعاً ديمقراطياً كاملاً على القدرة على القيام بما كان في أيدي قلة من الناس – الجهات الفاعلة التي ترعاها الدولة والمنظمات المتطورة – والآن يمكن لأي شخص أن يفعل ذلك”. درس الذكاء الاصطناعي. “بحلول الوقت الذي نحل فيه كل شيء، تكون الانتخابات قد انتهت، لقد صوتنا جميعًا. وهذا أعتقد أنه مثير للقلق حقًا.
ليز بوردي، أحد كبار وقال مستشار حملة بايدن في بيان إن الحملة كانت “يقظة للغاية بشأن التهديد العاجل الذي تمثله المعلومات المضللة التي تهدف إلى قمع التصويت وتقويض الانتخابات الحرة والنزيهة عمداً التي تشكلها على ديمقراطيتنا”.
وقالت: “نحن ندعم الجهود، بما في ذلك الجهود التي تبذلها سلطات إنفاذ القانون في نيو هامبشاير، لمحاسبة أولئك الذين يريدون تعطيل انتخاباتنا الديمقراطية”.
وقال كاربنتر إن السلطات لم تتصل به بشأن المكالمة الآلية. وعندما سئل عن مواجهته للأضواء السياسية، قال إنه يشعر بالخداع والاستغلال من قبل كرامر.
وقال: “لم أعتقد قط أنني سأكون هنا”. “لقد طاردت الشهرة طوال حياتي، وليس العار – والآن أشعر وكأنني سيء السمعة.”
ساهم في هذا التقرير أليسون ماين، وأليسون جوردون، وإيزابيل تشابمان، ويحيى أبو غزالة من شبكة سي إن إن.
