تثير تقارير عن استخدام الجيش الإسرائيلي الذكاء الاصطناعي في حربها على قطاع غزة “قلقا” أمميا، من أن تصبح “قرارات الحياة والموت” مرتبطة “بحسابات تجريها الخوارزميات” على ما قال الأمين العام للأمم المتحدة، أنطونيو غوتيرش، الجمعة.
المتحدث باسم الأمن القومي بالبيت الأبيض، جون كيربي، قال في مقابلة مع شبكة “سي أن أن” الخميس، إن الولايات المتحدة تراجع تقريرا إعلاميا يفيد بأن الجيش الإسرائيلي يستخدم الذكاء الاصطناعي للمساعدة في تحديد الأهداف التي يقصفها في غزة.
هذه الاتهامات باستخدام أنظمة الذكاء الاصطناعي في الحرب، ينفيها الجيش الإسرائيلي، ويقول إنها “لا يتسخدم أي نظام لتحديد المتطرفين والأهداف المشتبه بهم.
وكان نص لمجلس حقوق الإنسان التابع للأمم المتحدة دان “استخدام إسرائيل أسلحة متفجرة ذات أثر واسع النطاق في مناطق غزة المأهولة” واستخدام الذكاء الاصطناعي “للمساعدة في عملية اتخاذ القرار العسكرية” باعتبار أن ذلك “قد يساهم في جرائم دولية”.
وتشن إسرائيل حملة عسكرية على غزة ردا على هجوم حركة “حماس” على جنوب إسرائيل في السابع من أكتوبر. وتقول إسرائيل إن هجوم حماس أسفر عن مقتل 1200 واقتياد أكثر من 250 رهينة إلى غزة. وتشير بيانات سلطات الصحة في غزة إلى مقتل ما يزيد على 33 ألفا داخل القطاع.
برنامج لافندر
نشر في موقعي +972 ماغازين ولوكال كول، الأربعاء، تقريرا يفيد بأن مسؤولي مخابرات إسرائيليين يستخدمون برنامجا يعرف باسم “لافندر” للمساعدة في تحديد الأهداف التي يقصفها في غزة.
وجاء في التقرير الإعلامي أن الجيش الإسرائيلي صنف عشرات الآلاف من سكان غزة كمشتبه بهم باستخدام نظام الذكاء الاصطناعي ودون مراجعة بشرية تذكر.
ويشير إلى أن البرنامج حدد أكثر من 37 ألف فلسطيني ومنازلهم ووضعهم على قائمة الأهداف، إذا أعطى الجيش موافقة شاملة للضباط الإسرائيليين لاعتماد “قوائم التقل الخاصة بلافندر، من دون الحاجة للتحقق بدقة من أسباب اختيارهم أو حتى فحص البيانات الأولية التي استند إليها” بحسب تقرير نشرته صحيفة واشنطن بوست.
واستخدمت القوات الإسرائيلية “القنابل الغبية” التي لا تكون موجهة بدقة على العديد من أهداف قائمة لافندر.
وقال الجيش الإسرائيلي في بيان “الجيش لا يستخدم أي نظام للذكاء الاصطناعي لتحديد هوية النشطاء الإرهابيين أو لمحاولة التنبؤ بما إذا كان الشخص إرهابيا من عدمه. منظومات المعلومات هي مجرد أدوات للمحللين في عملية تحديد الهدف”.
وأضاف البيان أن توجيهات الجيش تكلف المحللين بإجراء تدقيقات مستقلة يتحققون فيها من أن الأهداف المحددة تلبي المعايير ذات الصلة بما يتماشى مع القانون الدولي والمبادئ التوجيهية الإسرائيلية.
ولفت الجيش إلى أنه يمتلك “قاعدة بيانات الهدف منها الإسناد الترافقي لمصادر استخبارية… بشأن الناشطين العسكريين للمنظمات الإرهابية” ويستخدمها محللون أداة لهم.
وشدد الجيش على أنه “لا يشن غارات عندما تكون الأضرار الجانبية المتوقعة من الغارة مفرطة”، مستخدما مصطلحا يشمل الخسائر في صفوف المدنيين.
وقال غوتيرش أيضا إنه يشعر “بقلق بالغ” بسبب تقارير استخدام الجيش الإسرائيلي الذكاء الاصطناعي للمساعدة في تحديد الأهداف التي ستقصف في غزة، وذكر “يجب ألا يسند أي جزء من قرارات الحياة والموت التي تؤثر في أسر بأكملها إلى حسابات اللوغاريتمات بدم بارد”.
وتابع “على مدى الأشهر الستة الماضية، تسببت حملة الجيش الإسرائيلي في موت ودمار بلا هوادة للفلسطينيين في غزة… احترام القانون الإنساني الدولي أصبح في حالة يرثى لها”.
ولفت غوتيرش “حذرت لسنوات عديدة من مخاطر تحويل الذكاء الاصطناعي الى سلاح والحد من الدور الأساسي الذي تؤديه الإرادة الإنسانية”.
وقال أيضا “يجب استخدام الذكاء الاصطناعي كقوة من قوى الخير التي تعود بالنفع على العالم، بدلا من المساهمة في شن حرب على نطاق هائل وطمس معالم المساءلة”.
برنامج “غوسبل”
وفي ديسمبر الماضي، أكدت صحيفة الغارديان أن الجيش الإسرائيلي يستخدم برنامج ذكاء اصطناعي يدعى “غوسبل” لافتة إلى أنه تتم تغذيته بالبيانات، ليقوم باختيار “الأهداف” التي يراد قصفها في قطاع غزة، “والتي تشمل الجماعات المسلحة وقادتها”.
وذكرت الصحيفة أن وحدة استخبارات عسكرية سرية، يديرها الذكاء الاصطناعي، تلعب دورا مهما في رد إسرائيل على هجمات حماس.
وفي بيان مقتضب للجيش الإسرائيلي بشأن تلك الوحدة، قال مسؤول كبير إن عناصرها ينفذون “هجمات دقيقة على البنية التحتية المرتبطة بحماس، ويتم إلحاق أضرار كبيرة بالعدو، مع حدوث خسائر من جهة المدنيين”.
وكان قد جرى التأكيد على دقة الضربات التي أوصى بها “بنك أهداف الذكاء الاصطناعي” في تقارير متعددة في وسائل الإعلام الإسرائيلية، إذ ذكرت صحيفة “يديعوت أحرونوت” اليومية، أن الوحدة “تتأكد قدر الإمكان من عدم وقوع أي ضرر للمدنيين الذين لا يشاركون في أعمال قتالية”.
ما هو “غوسبل” الذي يساعد إسرائيل في تحديد أهدافها؟
ضربت القوات الإسرائيلية أكثر من 22 ألف هدف داخل غزة منذ السابع من أكتوبر، في أعقاب الهجوم الذي نفذته حماس على بلدات إسرائيلية وراح ضحيته نحو 1200 شخص معظمهم مدنيون.
وقال مصدر عسكري إسرائيلي كبير سابق لصحيفة “غارديان”، إن المشرفين على برامج الذكاء الاصطناعي “يستخدمون قياسا دقيقا للغاية” بشأن معدل إخلاء المدنيين للمبنى قبل وقت قصير من الغارة.
وكان قائد سلاح الجو الإسرائيلي، أومر تيشلر، قد ذكر في حديث إلى صحيفة “جيروزاليم بوست” الإسرائيلية، في أكتوبر الماضي، أن قدرات الاستهداف بالذكاء الاصطناعي “مكنت الجيش من تحديد بنوك أهداف جديدة بشكل أسرع”.
وكان مسؤول إسرائيلي قد أوضح لوكالة “بلومبرغ” في منتصف يونيو الماضي، أنه يجرى استخدام نموذجين لبناء مجموعة بيانات تعتمد على خوارزميات بشأن الأهداف المحددة، وذلك لحساب الذخيرة المحتملة، وتحديد أولويات، وتعيين آلاف الأهداف للطائرات والطائرات من دون طيار، واقتراح جدول زمني للغارات.
وأوضح ذلك المسؤول أن النظامين يخضعان لمشغلين بشريين يقومون بفحص الأهداف وخطط الغارات الجوية والموافقة عليها.
من جانبه، قال الباحث، ريتشارد مويس، الذي يرأس منظمة “المادة 36″، وهي مجموعة تقوم بحملات للحد من الأضرار الناجمة عن الأسلحة للصحيفة “عند الاعتماد على أدوات ذكاء اصطناعي مثل غوسبل، فإنه يتم تسليم البشر قائمة بالأهداف التي أنشأها الحاسوب، وهم لا يعرفون بالضرورة كيف تم إنشاء القائمة وليست لديهم القدرة على التأكد من توصيات الاستهداف والتشكيك فيها بشكل مناسب”.
وأضاف “هناك خطر من أنه عندما يعتمد البشر على هذه الأنظمة، فإنهم يصبحون بمثابة تروس في عملية ميكانيكية، ويفقدون القدرة على النظر في أخطار إلحاق الأذى بالمدنيين بطريقة مجدية”.
برامج التعرف على الوجه
وفي أواخر مارس الماضي، نقلت صحيفة نيويورك تايمز عن ضباط مخابرات وعسكريين إسرائيليين أن القوات الإسرائيلية تستخدم برنامجا لـ”التعرف على الوجه” والذي يمكنه “جمع صور الوجوه للفلسطينيين وفهرستها” ويمكنه تحديد أسماء الأشخاص في ثوان معدودة.
وأكدوا أن “إسرائيل بدأت في استخدام هذا البرنامج منذ أواخر العام الماضي” من دون الإعلان عنه، بحيث يتم جمع الصور وحفظها دون علم أو موافقة السكان الفلسطينيين.
وأشاروا إلى أن هذه التكنولوجيا تم استخدامها في غزة للبداية للبحث عن الإسرائيليين الذين احتجزتهم حماس في السابع من أكتوبر كرهائن، ولكن بعد ذلك بدأت في استخدامها على نطاق واسع لتحديد أي أشخاص لهم علاقات مع أي من الجماعات المسلحة.
وقال أحد الضباط للصحيفة “إنه في بعض الأحيان كانت هذه التقنية تصنف بشكل خاطئ المدنيين على أنهم من مقاتلي حماس المطلوبين”.
يتعلم من البشر ليتفوق عليهم.. كيف يعمل الذكاء الاصطناعي؟
مع التقدم التكنولوجي، أصبح الذكاء الاصطناعي (AI) أحد أسرع تطوراته. فكرة الجهاز الذي يتعلم ويتخذ قرارات مستقلة قد تبدو مثيرة للاهتمام للغاية، ولكن كيف يعمل بالضبط؟
وتدير برنامج التعرف على الوجه “وحدة الاستخبارات العسكرية الإسرائيلية ووحدة الاستخبارات الإلكترونية 8200”.
ويستخدمون تقنية طورتها شركة “كورسايت” الإسرائيلية، والتي تعتمد على أرشيف هائل من الصور التي تلتقطها طائرات مسيرة وصور أخرى يتم إيجادها عبر غوغل بحسب ما أكدت المصادر لنيويورك تايمز.
وأعرب أشخاص مطلعون على استخدام البرنامج عن مخاوفهم من إساءة استخدامه من قبل إسرائيل.
وأشارت الصحيفة إلى أن تقنيات التعرف على الوجه حول العالم مدعوما بأنظمة الذكاء الاصطناعي أصبحت تنتشر بشكل أكبر حيث تستخدمها بعض الدول لتسهيل السفر والتنقل، فيما استخدمتها روسيا ضد الأقليات وقمع المعارضة، ويبرز مؤخرا استخدامها من قبل إسرائيل في الحرب.
ورفض متحدث باسم الجيش الإسرائيلي التعليق على استخدام هذه التكنولوجيا للصحيفة، وقال إن “الجيش الإسرائيلي ينفذ عمليات أمنية واستخباراتية ضرورية بينما يبذل جهودا لتقليل الأضرار الذي يلحق بالسكان المدنيين”.
وأضاف “بالطبع لا يمكننا الإشارة إلى القدرات العملياتية والاستخباراتية في هذا السياق”.
اسقاط المسيرات
ووفق تقرير لوكالة فرانس برس لجأ الجيش الإسرائيلي في قطاع غزة للمرة الأولى إلى تقنيات للذكاء الاصطناعي بهدف اسقاط المسيرات ورصد أنفاق حركة “حماس”.
وألمح الجيش الإسرائيلي في يناير الماضي إلى الغاية من هذه التقنيات، حين أشار المتحدث باسمه، دانيال هغاري، إلى أن القوات الإسرائيلية تعمل “بالتوازي فوق الأرض وتحتها”.
وأكد مسؤول عسكري لوكالة فرانس برس أن هذه التقنيات تستخدم بالدرجة الأولى لاسقاط مسيرات تستخدمها الفصائل الفلسطينية، ورسم خرائط لشبكة الأنفاق في القطاع المحاصر.
وطورت هذه التقنيات شركات إسرائيلية في قطاع التكنولوجيا الذي يعاني من تبعات الحرب المستمرة منذ أشهر، وساهم هذا القطاع عام 2022 بما نسبته 18 في المئة من الناتج المحلي، لكن ثمانية في المئة من قوته العاملة استدعيت إلى الجيش بعد اندلاع الحرب في السابع من أكتوبر.
ويقول رئيس الشركة الناشئة في مجال التكنولوجيا “ستارت آب نايشن سنترال” آفي هاسون للوكالة “عموما، الحرب في غزة تسبب مخاطر، لكنها تتيح أيضا فرصا لاختبار التقنيات الجديدة في هذا المجال”.
وأضاف “في ميدان المعركة والمستشفيات، ثمة تقنيات استخدمت في هذه الحرب لم يتم استخدامها سابقا”.
كيف تستخدم إسرائيل الذكاء الاصطناعي في حربها على حماس؟
يستخدم الجيش الإسرائيلي، الذكاء الاصطناعي، لتحسين دقة الاستهداف، وفق ما قاله مسؤول عسكري لصحيفة جيروزاليم بوست.
واستخدم الجيش للمرة الأولى تقنية منظار تصويب معزز بالذكاء الاصطناعي طورته شركة “سمارت شوتر”، وزودت به أسلحة مثل البنادق والرشاشات.
ويقول مسؤول عسكري إسرائيلي للوكالة إن هذه التقنية “تساعد جنودنا في اعتراض الطائرات المسيرة لأن حماس تستخدم العديد منها”، موضحا أن التقنية تجعل “كل جندي، حتى لو كان أعمى، قناصا”.
كما تقوم تقنية أخرى على إطلاق الجيش مسيرات قادرة على رمي الشباك على مسيرات أخرى بهدف تعطيل عملها.
وأفادت صحيفة “وول ستريت جورنال” الأميركية في يناير أن الولايات المتحدة، أبرز داعمي إسرائيل سياسيا وعسكريا في هذه الحرب، بدأت تدريب جنودها على استخدام تقنية “سمارت شوتر” لاسقاط المسيرات، علما بأن هذه الأخيرة تستخدم بشكل متزايد منذ اندلاع حرب غزة من قبل فصائل مسلحة مناهضة لواشنطن، لاستهداف قواعد تضم جنودا أميركيين في الشرق الأوسط.
كشف شبكة الأنفاق
ويشكل سبر أغوار شبكة الأنفاق في غزة، تحديا أساسيا للجيش الإسرائيلي الذي أعلن اكتشاف عدد كبير منها وتفجيره.
ولا يزال الجناح العسكري لحركة حماس، يعلن بشكل دوري عن تفجير فتحات أنفاق ونصب كمائن للجنود الإسرائيليين. وتقول إسرائيل إن مقاتلي الحركة يتحصنون في الأنفاق، وفيها يحتفظون بالأسرى.
ولجأ الجيش الإسرائيلي إلى طائرات مسيرة تستخدم تقنيات الذكاء الاصطناعي لإعداد خريطة لهذه الأنفاق التي تشير تقديرات غربية الى أنها تمتد على مسافة أكثر من 500 كلم.
ومن هذه التقنيات استخدام مسيرات قادرة على رصد البشر والعمل تحت الأرض. ويوضح المسؤول العسكري لفرانس برس أن المسيرة “تدخل الأنفاق وتسمح لك بأن ترى بقدر ما يسمح الاتصال معها”.
تكنولوجيا تثير القلق
لكن هذه التقنيات تثير قلق أممي ومنظمات حقوقية، خصوصا في ظل الحصيلة المرتفعة للقتلى في صفوف المدنيين الذين يشكلون غالبية ضحايا الحرب في القطاع الفلسطيني المحاصر.
وأيدت أكثر من 150 دولة في ديسمبر الماضي، قرارا للأمم المتحدة يتحدث عن “تحديات ومخاوف جدية” في مجال التقنيات العسكرية الجديدة، بما يشمل الذكاء الاصطناعي وأنظمة السلاح الذاتية التشغيل.
وقال مسؤولون أميركيون لموقع “بريكينغ ديفينس” أواخر مارس الماضي إنه جرى اختيار 4 دول لتنضم للولايات المتحدة، لقيادة جهد يستمر عاما واحدا، لاستكشاف أطر السلامة لاستخدام الذكاء الاصطناعي في الصناعات العسكرية.
5 دول تقود الجهود العالمية للوصول إلى “ذكاء اصطناعي عسكري أكثر أمانًا”
قال مسؤولون أميركيون لموقع “بريكينغ ديفينس” إنه جرى اختيار 5 دول لتنضم للولايات المتحدة لقيادة جهد يستمر عام واحد لاستكشاف حواجز سلامة جديدة لاستخدام الذكاء الاصطناعي في الصناعات العسكرية.
وتقول الخبيرة في قسم الأسلحة في منظمة هيومن رايتس ووتش، ماري ويرهام لوكالة فرانس برس “نحن نواجه أسوأ وضع ممكن لجهة القتل والمعاناة… وجزء منه تتسبب به التقنية الجديدة”.
وخلال العام الماضي وثقت منظمة العفو الدولية “أمنستي” استخدام إسرائيل لتكنولوجيا التعرف على الوجه ضد الفلسطينيين في الضفة الغربية، وأطلقت عليه اسم “الذئب الأحمر” وهو شبكة مراقبة متنامية باستمرار ترسخ سطيرة الحكومة الإسرائيلية على الفلسطينيين.
وقالت الأمينة العامة للمنظمة، أنياس كالامار، في مايو الماضي “إضافة إلى التهديد المستمر باستخدام القوة البدنية المفرطة والاعتقال التعسفي، يتعين على الفلسطينيين الآن مواجهة خطر تعقبهم بواسطة خوارزمية أو منعهم من الدخول إلى أحيائهم استنادا إلى معلومات مخزنة في قواعد بيانات تمييزية للمراقبة”.
