Vals, bir AI test firması, 17 Kasım’da yayınladığı sonuçlarda birkaç yüksek profilli dil modelinin, ambulanslar, okullar ve konut alanları gibi sivil nesneleri görüntü‑temelli simülasyonlarda potansiyel askeri hedef olarak işaretlediğini gösterdi. Şirket, modellerin isteğin nasıl sunulduğuna bağlı olarak farklı davrandığını belirtti: görev doğrudan bir sorgu olarak verildiğinde modeller çok daha az hedef önerirken, aynı senaryo oyun olarak tanımlandığında hedef oranı dramatik şekilde arttı.

Model performansı çerçeveleme ile değişti

Drone‑sahne testlerinde GPT‑6 Astra, standart komutlarda yaklaşık %6, oyun çerçevesinde ise %92 oranında en az bir hedef belirledi. Yakın bir model olan GPT‑6.1 Sol da benzer bir desen göstererek %17’den %90’a yükseldi. Claude Opus 5.5, askeri bir komplekse bitişik bir ilkokulu standart denemelerde %69, oyun çerçevesinde %72 oranında hedef olarak işaretledi. Testler her koşulda 32 deneme içeriyordu ve Vals, güvenlik sınıflandırıcılarının hiçbir isteği engellemediğini, bazı modellerin ise kendi kendine reddettiğini belirtti.

Bulguların bağlamı ve sınırlamaları

Vals, deneylerin sadece modellerin hedef bilgisi verip vermediğini ölçtüğünü, modellerin bağımsız olarak saldırı kararı alıp almadığını veya belirlenen hedeflerin silahlı çatışma hukukuna uygunluğunu ölçmediğini vurguladı. Şirket, modelleri gerçek silah sistemlerinde test etmedi ve raporda yer alan hukuk uzmanları, AI‑tarafından üretilen hedef önerilerinin hâlâ insan onayı gerektirdiğini uyardı. Dışişleri Konseyi ve Brennan Center, yalnızca yazılımın otonom bir silah oluşturmadığını ve insan denetiminin sivil zararları tamamen önleyemeyeceğini belirtti.

Askeri AI için daha geniş etkiler

Bulgular, Grand View Research’in sektörü 2026’da 11,7 milyar dolar, 2030’da 19,3 milyar dolar olarak tahmin ettiği bir dönemde artan askeri AI yatırımlarıyla ortaya çıktı. Pentagon, Ekim 2027’de AutoWarCom programını başlatmayı planlarken, 2025’te Anthropic, Google, OpenAI ve xAI gibi firmalara verilen sözleşmelerin her biri 200 milyon dolarla sınırlı olduğu bir kongre raporu yayımlandı. Anthropic, kötüye kullanımını engellemek için sınıflandırıcılar tanıttı ve Stockholm Uluslararası Barış Araştırma Enstitüsü (SIPRI), hükümetlerin AI tedarikçileri için net gereksinimler ve sorumluluklar belirlemesini istedi. Birleşmiş Milletler’de 128 ülke otonom silahlar için bağlayıcı kurallar tartıştı; ABD, Rusya ve İsrail bir anlaşmaya karşı çıkarken, BM Genel Sekreteri net yasaklar çağrısında bulundu.