حذر كبار المنظمين الفيدراليين للمرة الأولى من أن استخدام الذكاء الاصطناعي يشكل خطراً على النظام المالي.
قام مجلس مراقبة الاستقرار المالي، وهو فريق من الهيئات التنظيمية الرائدة في جميع أنحاء الحكومة الأمريكية، بتصنيف الذكاء الاصطناعي رسميًا يوم الخميس على أنه “نقطة ضعف ناشئة”.
لقد تزايدت شعبية نماذج الذكاء الاصطناعي المتطورة في السنوات الأخيرة، على الرغم من أن العديد من الأسماء البارزة في هذا المجال تقول إن التكنولوجيا الناشئة يمكن أن يكون لها آثار كارثية إذا خرجت عن نطاق السيطرة.
وحذر مجلس مراقبة الاستقرار المالي في تقريره السنوي يوم الخميس من أن “الذكاء الاصطناعي لديه القدرة على تحفيز الابتكار وزيادة الكفاءة، لكن استخدامه في الخدمات المالية يتطلب تنفيذًا وإشرافًا مدروسين لإدارة المخاطر المحتملة”.
وحذر مجلس مراقبة الاستقرار المالي، الذي تم إنشاؤه في أعقاب الأزمة المالية عام 2008 بقيادة وزيرة الخزانة الأمريكية جانيت يلين، من أن الذكاء الاصطناعي يمكن أن “يقدم مخاطر معينة”، بما في ذلك مخاوف الأمن السيبراني، ومخاطر الامتثال وقضايا الخصوصية.
وأعرب المنظمون أيضًا عن قلقهم بشأن “العوامل المعقدة” المتعلقة بنماذج الذكاء الاصطناعي التوليدية مثل ChatGPT.
على سبيل المثال، أشار المجلس إلى مخاطر أمن البيانات وحماية المستهلك والخصوصية التي تشكلها الشركات المالية التي تستخدم الذكاء الاصطناعي التوليدي. وأشاروا إلى أن نماذج الذكاء الاصطناعي التوليدية يمكن أن تنتج نتائج معيبة تُعرف باسم “الهلوسة”.
مصدر قلق آخر بالنسبة للمنظمين هو أن بعض نماذج الذكاء الاصطناعي تعمل بمثابة “صناديق سوداء” – مما يعني أن أعمالها الداخلية غير قابلة للاختراق من قبل الغرباء.
وقالت FSOC إن “الافتقار إلى” القابلية للتفسير “يمكن أن يجعل من الصعب تقييم سلامة مفاهيم النظام، مما يزيد من عدم اليقين بشأن ملاءمتها وموثوقيتها”.
بمعنى آخر، إذا كانت البنوك تعتمد على نماذج غامضة للذكاء الاصطناعي، فهذا يجعل من الصعب فهم مدى قوة أنظمتها الأساسية حقًا.
وعلى نحو متصل، أعرب المنظمون عن قلقهم بشأن الكيفية التي يمكن بها لأنظمة الذكاء الاصطناعي هذه “إنتاج وربما إخفاء نتائج متحيزة أو غير دقيقة”. وقال مجلس مراقبة الاستقرار المالي إن هذا بدوره سيثير المخاوف بشأن الإقراض العادل وقضايا أخرى تتعلق بحماية المستهلك.
وتأتي هذه الخطوة بعد عامين فقط من تصنيف الهيئات التنظيمية لأول مرة لتغير المناخ باعتباره “تهديدًا ناشئًا للاستقرار المالي في الولايات المتحدة”.
لقد ازدهر الاستثمار في الذكاء الاصطناعي وتبنيه، حتى مع تحذير بعض الخبراء من المخاطر الجسيمة التي تنطوي عليها هذه التكنولوجيا. وقع الرئيس جو بايدن مؤخرًا على أمر تنفيذي يوجه الوكالات الفيدرالية إلى اتخاذ خطوات لحماية تطوير الذكاء الاصطناعي، وهو مجال مزدهر للتبني والاستثمار.
وقال مجلس مراقبة الاستقرار المالي: “يمكن أن يصبح تحديد الأخطاء والتحيزات أكثر صعوبة وتصحيحها مع زيادة تعقيد نهج الذكاء الاصطناعي، مما يؤكد الحاجة إلى اليقظة من قبل مطوري التكنولوجيا، وشركات القطاع المالي التي تستخدمها، والجهات التنظيمية التي تشرف على مثل هذه الشركات”.
إن شعبية ChatGPT وغيرها من أدوات الذكاء الاصطناعي التوليدية، التي تستخدم نماذج لغوية كبيرة لتحديد الأنماط في البيانات وإنشاء النصوص والصور، لم تؤد إلا إلى تسريع الاهتمام بالذكاء الاصطناعي.
