دراسة صادمة: نماذج الذكاء الاصطناعي تقع في فخ استهداف المدنيين خلال المحاكاة العسكرية


هذا الخبر بعنوان "دراسة "مرعبة".. نماذج الذكاء الاصطناعي تستهدف المدنيين في الحروب" نشر أولاً على موقع الجزيرة وتم جلبه من مصدره الأصلي بتاريخ 19 نوفمبر 2026.
لا يتحمل موقعنا مضمونه بأي شكل من الأشكال. بإمكانكم الإطلاع على تفاصيل هذا الخبر من خلال مصدره الأصلي.
كشفت دراسة حديثة أجرتها شركة "فالز"، وهي جهة مستقلة لتقييم نماذج الذكاء الاصطناعي ومقرها سان فرانسيسكو، عن إمكانية خداع نماذج الذكاء الاصطناعي لدفعها للمشاركة في عمليات عسكرية واستهداف المدنيين في سيناريوهات محاكاة. وأظهرت الدراسة التي شملت ثمانية نماذج كبرى من شركات ومعامل أمريكية وصينية، وجود أخطاء مستمرة في التعرف على الأجسام، مما أدى إلى استهداف مدنيين وجنود مستسلمين.
وبحسب تقرير وكالة بلومبيرغ وموقع "تيك كرانش" التقني، فقد استخدم الباحثون مزيجاً من الصور الحقيقية والمولدة، تضمنت لقطات من أوكرانيا وإيران عبر المسيرات والأقمار الصناعية. ولتجاوز القيود الأمنية التي تفرضها الشركات، لجأ الباحثون إلى حيلة إقناع النماذج بأنها تشارك في "لعبة حربية"، وهو ما نجح في دفع حتى النماذج التي رفضت التعاون في البداية إلى تحديد أهداف مدنية.
وشملت النماذج المختبرة منتجات من شركات أوبن إيه آي، وأنثروبيك، وغوغل، وديب سيك، وغيرها. وسجل نموذج "أوبس 5.5" من شركة أنثروبيك أعلى معدلات الخطأ، حيث استهدف مدرسة إيرانية في مدينة ميناب بنسبة 69% في المحاولات العادية و72% في محاولات "اللعبة". وتأتي هذه النتائج في ظل مخاوف متزايدة من الأسلحة ذاتية التشغيل والمخاطر الفورية للذكاء الاصطناعي.
وفيما يخص ردود الفعل، صرح إدواردو مايا سيلفا، المتحدث باسم شركة أنثروبيك، بأن هذه النتائج غير مقبولة وتتعارض مع قواعد الشركة، مؤكداً أن فرق العمل تطور ضمانات إضافية. من جانبه، أوضح نيت إيفانز من شركة أوبن إيه آي أن الشركة تحظر استخدام نماذجها لتسهيل العنف أو لأغراض الأمن القومي غير المعتمدة. كما أكدت كيت درير، المتحدثة باسم غوغل، أن نماذج الشركة ليست مصممة للحروب أو المراقبة، وتحظر استخدامها في أسلحة ذاتية التشغيل دون إشراف بشري.
تكنولوجيا
تكنولوجيا
تكنولوجيا
سياسة