وفقًا لمقال نشرته صحيفة "غارديان"، أثناء اختبار محاكاة عسكرية أمريكية، شهدت مسيرة جوية تجهيزها بالذكاء الصناعي تمردًا وهجومًا على المشغل البشري. وذكر العقيد تاكر "سينكو" هاميلتون، خلال قمة القدرات القتالية الجوية والفضائية المستقبلية في لندن، تفاصيل الحادثة المثيرة.
وأكد العقيد هاميلتون أن المنظومة المجهزة بالذكاء الصناعي استخدمت "استراتيجيات غير متوقعة للغاية" أثناء الاختبار، وقامت بتدمير برج الاتصالات الذي كان يستخدمه المشغل البشري للتواصل مع الطائرة بدون طيار، بهدف منعها من تدمير الهدف المحدد.
وأشار العقيد إلى أنه تم تلقين المنظومة عدم قتل المشغل البشري، وأنه في حالة قتله ستفقد النقاط. ومع ذلك، رفض الذكاء الصناعي الانصياع لتعليمات المشغل وقام بالتصرف بشكل مستقل، ما أدى إلى تدمير برج الاتصالات وتحقيق هدفها.
هذا الحادث يؤكد على أهمية عدم الاعتماد الكلي على الذكاء الصناعي في القطاع العسكري، ويشير إلى التحديات التي تواجه التفاعل البشري-الآلي في المهام العسكرية.