أدوات «القتل الآلي».. كيف استخدمت إسرائيل الذكاء الاصطناعي بغزة؟

وسط عاصفة “المنافع”، تخرج إلى السطح حقائق جديدة عن مدى الخطر الذي يمثله الذكاء الاصطناعي على البشر، خاصة إذا استخدم بسياق الحرب.

قبل حرب غزة بسنوات، حوّلت إسرائيل وحدة الاستخبارات الإسرائيلية إلى حقل اختبار للذكاء الاصطناعي، مما أثار جدلاً بين كبار القادة حول ما إذا كان البشر على دراية كافية بهذه التقنية.

وبعد هجوم حماس في 7 أكتوبر/تشرين الأول 2023، أغرق الجيش الإسرائيلي غزة بالقنابل، معتمدًا على قاعدة بيانات تم تجميعها بشق الأنفس على مر السنين، وتحتوي على تفاصيل عناوين المنازل والأنفاق وغيرها من البنى التحتية المهمة بالنسبة للمجموعة المسلحة.

واستخدام الذكاء الاصطناعي لإعادة ملء بنك أهداف الجيش الإسرائيلي بسرعة، سمح للجيش بمواصلة حملته دون انقطاع، وفقًا لشخصين مطلعين على العملية لصحيفة “واشنطن بوست”.

كان هذا مثالا على كيفية مساهمة البرنامج المستمر منذ عقد من الزمن لوضع أدوات الذكاء الاصطناعي المتقدمة في مركز العمليات الاستخباراتية للجيش الإسرائيلي، في الحرب التي استمرت 14 شهرًا.

وكشف الجيش الإسرائيلي عن وجود هذه البرامج، التي تشكل ما يعتبره بعض الخبراء أكثر مبادرات الذكاء الاصطناعي العسكرية تقدماً على الإطلاق.

لكن تحقيقًا أجرته صحيفة “واشنطن بوست” يكشف عن تفاصيل لم يتم الإبلاغ عنها من قبل، عن الأعمال الداخلية لبرنامج التعلم الآلي، إلى جانب التاريخ السري لتطويره.

ويكشف التحقيق أيضًا عن نقاش حاد داخل أعلى المستويات في الجيش، بدأ قبل سنوات من السابع من أكتوبر/تشرين الثاني، حول جودة المعلومات الاستخباراتية التي يجمعها الذكاء الاصطناعي، وما إذا كانت توصيات التقنيات قد حظيت بالتدقيق الكافي، وما إذا كان التركيز على الذكاء الاصطناعي قد أضعف قدرات الجيش الإسرائيلي الاستخباراتية.

زيادة الضحايا

ويقول بعض المنتقدين الداخليين إن برنامج الذكاء الاصطناعي كان قوة من وراء الكواليس فاقمت حصيلة القتلى في الحرب بغزة، والتي أودت بحياة 45,000 شخص، أكثر من نصفهم من النساء والأطفال.

ويقول أشخاص على دراية بالحرب، بمن فيهم جنود خدموا فيها، إن الجيش الإسرائيلي وسع بشكل كبير من عدد الضحايا المدنيين المقبولين مقارنة بالمعايير التاريخية.

ويجادل البعض بأن هذا التحول حفزته أدوات الذكاء الاصطناعي التي سهلت من سرعة توليد كميات كبيرة من الأهداف.

يستند تحقيق “واشنطن بوست”، إلى مقابلات مع أكثر من عشرة أشخاص مطلعين على الأنظمة، وقد تحدث العديد منهم بشرط عدم الكشف عن هويتهم، بالإضافة إلى وثائق حصلت عليها الصحيفة.

وقال ستيفن فيلدشتاين، الزميل الأقدم في مؤسسة كارنيجي والباحث في استخدام الذكاء الاصطناعي في الحرب: ”ما يحدث في غزة هو مقدمة لتحول أوسع نطاقًا في كيفية خوض الحرب“.

وتابع “يبدو أن الجيش الإسرائيلي قد رفع عتبة معدل الخسائر المدنية المقبولة خلال حرب غزة، مضيفا ”ادمج ذلك مع التسارع الذي توفره هذه الأنظمة والمسائل المتعلقة بالدقة، فإن النتيجة النهائية هي ارتفاع عدد القتلى أكثر مما كان متصورًا“.

لكن الجيش الإسرائيلي قال إن الادعاءات بأن استخدامه للذكاء الاصطناعي يعرض حياة الناس للخطر ”بعيدة عن الواقع“.

وتابع في بيان للصحيفة: ”كلما زادت القدرة على تجميع أجزاء من المعلومات بشكل فعال، زادت دقة العملية“، قبل أن يضيف ”قللت هذه الأدوات من الأضرار الجانبية ورفعت من دقة العملية التي يقودها الإنسان“.

وفقًا لمسؤول استخباراتي تحدث شريطة عدم الكشف عن هويته، فإن “الإنجيل” وأدوات الذكاء الاصطناعي الأخرى لا تتخذ القرارات بشكل مستقل.

تطوير الأدوات التقنية

تكثفت عملية الإصلاح الشامل لقسم استخبارات الإشارات في الجيش الإسرائيلي، والمعروف باسم الوحدة 8200، منذ عام 2020 تحت قيادة القائد الحالي يوسي سارئيل.

دافع سارئيل عن تطوير برنامج ”الإنجيل“، وهو برنامج للتعلم الآلي مبني على مئات الخوارزميات التنبؤية، يسمح للجنود بالاستعلام بسرعة عن مجموعة هائلة من البيانات المعروفة داخل الجيش باسم ”المجمع“.

وبمراجعة كم هائل من البيانات من الاتصالات التي تم اعتراضها، ولقطات الأقمار الصناعية وشبكات التواصل الاجتماعي، تقوم الخوارزميات باستخراج إحداثيات الأنفاق والصواريخ والأهداف العسكرية الأخرى.

ثم يتم وضع التوصيات التي تنجو من التدقيق من قبل محلل استخباراتي، في بنك الأهداف من قبل ضابط كبير.

وباستخدام برنامج التعرف على الصور الخاص بالبرنامج، يمكن للجنود الكشف عن أنماط دقيقة، بما في ذلك التغييرات الطفيفة التي جرت خلال سنوات، من لقطات الأقمار الصناعية لغزة.

وتستخدم أداة أخرى للتعلم الآلي تُدعى ”لافندر“ (Lavender)، نسبة مئوية للتنبؤ بمدى احتمال أن يكون الفلسطيني عضوًا في جماعة متطرفة، مما يسمح للجيش الإسرائيلي بتوليد حجم كبير من الأهداف البشرية المحتملة بسرعة.

وهناك برامج خوارزمية أخرى تسمح للجنود بالاستعلام عن مجموعات بيانات مختلفة لم يتم الإبلاغ عنها من قبل.

في المقابل، لطالما كان لدى العديد من ضباط القسم مخاوف من أن تقنية التعلم الآلي، التي سرّعت عملية اتخاذ القرار، تخفي عيوبًا كامنة.

كما لا تشير التقارير المقدمة إلى القيادة العليا إلى كيفية استخلاص المعلومات الاستخباراتية – سواء من محللين بشريين أو من أنظمة الذكاء الاصطناعي – مما يجعل من الصعب على المسؤولين تقييم النتائج، وفقًا لمسؤول عسكري كبير سابق.

وعلى سبيل المثال، بعض أنظمة الذكاء الاصطناعي لمعالجة اللغة العربية كانت دقتها منخفضة للغاية، وفشلت في فهم الكلمات والعبارات العامية الرئيسية، وفقًا لما ذكره اثنان من كبار القادة العسكريين السابقين.

ووفق “واشنطن بوست”، يجادل بعض مؤيدي استخدام إسرائيل للتكنولوجيا بأن نشر ابتكارات مثل الذكاء الاصطناعي بقوة أمر ضروري لبقاء دولة صغيرة تواجه أعداء أقوياء.

مصنع أهداف

يفرض القانون الدولي الإنساني على الدول المتحاربة أن توازن بين الميزة العسكرية المتوقعة من الهجوم، والأضرار الجانبية المتوقعة على المدنيين، وهو ما يُعرف بمعيار التناسب أو معيار ”القائد العسكري المعقول“.

لكن تلتزم المعاهدات، التي صادقت عليها إسرائيل جزئيًا فقط، الصمت بشأن الذكاء الاصطناعي.

وقال الجيش الإسرائيلي في بيان هذا الصيف إن معالجة البيانات الاستخباراتية التي يقوم بها الجيش ”[تفي] بتعريف القانون الدولي للهدف المشروع“.

وباعتراف إسرائيل نفسها، لعب الذكاء الاصطناعي دورًا كبيرًا في عملية الاستهداف في غزة. ففي غضون أيام من هجمات 7 أكتوبر/تشرين الأول 2023، سرعان ما انهمرت على القطاع ذخائر من طراز مارك 80 أمريكية الصنع، التي تزن 2000 رطل.

وفي بيان صحفي صدر في 2 نوفمبر/تشرين الثاني 2023، أعلن الجيش الإسرائيلي أن “الإنجيل” ساعده في قصف 12 ألف هدف في غزة.

وقال آدم راز، وهو مؤرخ إسرائيلي أجرى مقابلات مع جنود وقادة حول استخدام وحدة 8200 للذكاء الاصطناعي، “الجيش الإسرائيلي كان يضرب هدفين تقريبًا في الدقيقة الواحدة في ذروة القصف”، وهو ما وصفه بمعدل ”مذهل“.

وقال أحد ضباط الاستخبارات للصحيفة إنه شهد استخدام الجيش الإسرائيلي للذكاء الاصطناعي في اتخاذ قرارات الاستهداف في غزة.

في هذا السياق، قالت هايدي خلاف، وهي ناقدة صريحة لإسرائيل وكبيرة علماء الذكاء الاصطناعي في معهد الذكاء الاصطناعي، وهي منظمة غير ربحية مقرها نيويورك، إن “أنظمة الذكاء الاصطناعي لديها أوجه عدم دقة مدمجة تجعلها غير مناسبة لسياقات الحياة والموت مثل الحرب”.

وأوضحت أن “صناعة السيارات ذاتية القيادة، أمضت العقد الماضي في محاولة للوصول بخوارزميات التعلم الآلي إلى دقة 100 في المئة، دون نجاح يذكر”.