نماذج الذكاء الاصطناعي تصنف المدنيين كأهداف في اختبارات السلامة التي تجريها Vals
اكتشفت Vals أن نماذج الذكاء الاصطناعي الرائدة يمكن أن تصنف المدنيين، والإسعافات، والمدارس كأهداف عسكرية، خاصةً عندما تُصاغ الاختبارات على أنها لعبة.
مترجم من الإنجليزية. قراءة الأصل
النقاط الرئيسية
- أفادت Vals أن نموذج GPT-6 Astra حدد هدفًا في 6٪ من الطلبات القياسية، لكن ارتفع إلى 92٪ عندما صُغ الاختبار كلعبة.
- صنف Claude Opus 5.5 مدرسة ابتدائية كهدف في 69٪ من التجارب القياسية، وارتفع إلى 72٪ في سيناريو اللعبة.
- أفاد الأمم المتحدة بحد أدنى 168 حالة وفاة نتيجة غارة في فبراير 2026 على المدرسة المجاورة لمجمع عسكري في ميناب، إيران.
أعلنت Vals، شركة اختبار الذكاء الاصطناعي، عن نتائجها في 17 نوفمبر تُظهر أن عدة نماذج لغوية بارزة صنفت أشياء مدنية—بما في ذلك الإسعافات، والمدارس، والمناطق السكنية—كأهداف عسكرية محتملة خلال محاكاة تعتمد على الصور. وأوضحت الشركة أن سلوك النماذج يختلف حسب طريقة تقديم الطلب: عندما يُطرح كاستفسار مباشر، تكون النماذج أقل احتمالًا لتصنيف هدف، بينما عندما يُوصف السيناريو كلعبة، يرتفع معدل التصنيف بشكل كبير.
أداء النموذج يختلف حسب الصياغة
في اختبارات المشهد الجوي، حدد GPT-6 Astra هدفًا على الأقل في حوالي 6٪ من الطلبات القياسية، لكنه ارتفع إلى 92٪ عندما قُدِّم التمرين كلعبة. نموذج قريب، GPT-6.1 Sol، أظهر نمطًا مشابهًا، ارتفع من 17٪ إلى 90٪ تحت شرط اللعبة. صَنَّف Claude Opus 5.5، نموذج رائد آخر، مدرسة ابتدائية بجوار مجمع عسكري كهدف في 69٪ من التجارب القياسية و72٪ عندما صُغ الطلب كلعبة. شملت الاختبارات 32 تجربة لكل شرط، وأشارت Vals إلى أن مصنّفات السلامة لم تمنع أي من الطلبات، رغم أن بعض النماذج رفضت تلقائيًا.
السياق والقيود على النتائج
أكدت Vals أن التجارب قست فقط ما إذا كانت النماذج ستقدم معلومات عن الأهداف، وليس ما إذا كانت ستقرر تلقائيًا الضربة أو ما إذا كانت الأهداف المحددة دقيقة وفقًا لقوانين النزاع المسلح. لم تختبر الشركة النماذج في أنظمة أسلحة فعلية، وحذّر خبراء قانونيون استشهدوا بالتقرير من أن اقتراحات الأهداف التي يولدها الذكاء الاصطناعي لا تزال تتطلب تحققًا بشريًا. أشار كل من مجلس العلاقات الخارجية ومركز بريان إلى أن البرمجيات وحدها لا تشكل سلاحًا مستقلاً، وأن الإشراف البشري لا يضمن تجنّب الأضرار للمدنيين.
آثار أوسع للذكاء الاصطناعي العسكري
تأتي النتائج في ظل تزايد الاستثمارات في الذكاء الاصطناعي العسكري، حيث تقدر Grand View Research حجم القطاع بـ 11.7 مليار دولار في 2026 وتوقع وصوله إلى 19.3 مليار دولار بحلول 2030. يخطط البنتاغون لإطلاق برنامج AutoWarCom في أكتوبر 2027، بينما قُدِّرت العقود الممنوحة في 2025 لشركات مثل Anthropic وGoogle وOpenAI وxAI بـ 200 مليون دولار لكل منها، وفقًا لتقرير الكونغرس. قدمت Anthropic بالفعل مصنّفات لحظر الاستخدام غير المشروع، وحث معهد ستوكهولم الدولي لأبحاث السلام (SIPRI) الحكومات على وضع متطلبات واضحة ومساءلة لموردي الذكاء الاصطناعي. ناقشت الأمم المتحدة 128 دولة قواعد ملزمة للأسلحة المستقلة، مع معارضة الولايات المتحدة وروسيا وإسرائيل للمعاهدة، بينما دعا الأمين العام للأمم المتحدة إلى حظر واضح.


المناقشة 0