فلسطين
تكنولوجيا

ثغرات خطيرة في الذكاء الاصطناعي العسكري: كيف تحولت المدنيون إلى أهداف محتملة؟

شهاب٢٠ تشرين الثاني ٢٠٢٦ في ٠١:٣٤ ص0 مشاهدة
ثغرات خطيرة في الذكاء الاصطناعي العسكري: كيف تحولت المدنيون إلى أهداف محتملة؟

تنويه

هذا الخبر بعنوان "خدعة بسيطة جعلت الذكاء الاصطناعي يختار المدنيين أهدافاً للقتل" نشر أولاً على موقع شهاب وتم جلبه من مصدره الأصلي بتاريخ ٢٠ تشرين الثاني ٢٠٢٦.

لا يتحمل موقعنا مضمونه بأي شكل من الأشكال. بإمكانكم الإطلاع على تفاصيل هذا الخبر من خلال مصدره الأصلي.

كشفت دراسة حديثة أجرتها شركة «فالز» (Vals) عن وجود ثغرات أمنية وأخلاقية جسيمة في أنظمة الذكاء الاصطناعي المخصصة لتحليل الصور العسكرية، والتي تطورها ثماني شركات تقنية كبرى، من بينها «أوبن إيه آي»، «أنثروبيك»، «غوغل»، و«ديب سيك». وأظهرت نتائج الاختبارات وقوع أخطاء متكررة في التمييز بين الأهداف العسكرية والمدنيين، حيث قامت بعض النماذج بإدراج مدنيين وجنود مستسلمين ضمن قوائم الاستهداف.

واعتمد الباحثون في دراستهم على صور حقيقية وأخرى مولدة بالذكاء الاصطناعي، بالإضافة إلى صور ملتقطة عبر الأقمار الصناعية والطائرات المسيّرة من مناطق نزاع مثل إيران وأوكرانيا. وقد تبين أن القيود المفروضة على هذه النماذج يمكن تجاوزها بسهولة عبر خدعة «اللعبة الحربية»، حيث يتم تقديم الطلب بصيغة محاكاة عسكرية أو لعبة، مما يدفع الأنظمة إلى تقديم إجابات تتضمن تحديد أهداف مدنية بعد أن كانت ترفض ذلك في البداية.

ومن أكثر النتائج إثارة للقلق ما يتعلق بنموذج «أوبس 5.5» التابع لشركة «أنثروبيك»، الذي اختار مدرسة إيرانية في مدينة ميناب هدفاً للهجوم في 69% من المحاولات العادية، وارتفعت هذه النسبة إلى 72% عند استخدام سيناريو اللعبة الحربية، وهو ما يمثل انتهاكاً صارخاً للقانون الدولي الإنساني الذي يحمي المنشآت التعليمية.

وفي ردود فعلها، أكدت شركة «أنثروبيك» أن هذه النتائج غير مقبولة وتتعارض مع سياساتها، مشيرة إلى أن فرق العمل تسعى لتعزيز إجراءات الحماية. من جانبها، أوضحت شركة «أوبن إيه آي» أن سياساتها تمنع استخدام نماذجها في تسهيل أعمال العنف أو الأنشطة العسكرية غير المصرح بها، بينما أكدت «غوغل» أن تقنياتها لم تصمم للحروب أو المراقبة أو تشغيل أسلحة ذاتية دون إشراف بشري.

تأتي هذه التطورات في ظل نقاش محتدم حول العلاقة بين شركات التقنية والمؤسسات العسكرية، خاصة بعد الخلاف الذي نشب بين شركة «أنثروبيك» ووزارة الدفاع الأميركية (البنتاغون) بشأن حدود استخدام التقنية في أنظمة الأسلحة ذاتية التشغيل والمراقبة الجماعية، مما أدى إلى إنهاء العلاقة التجارية بينهما. وتطرح هذه النتائج تساؤلات جوهرية حول مدى أمان الاعتماد على الذكاء الاصطناعي في اتخاذ قرارات عسكرية قد تهدد حياة المدنيين نتيجة أخطاء برمجية أو تلاعب في صياغة الأوامر.

شارك الخبر: