Vals, perusahaan pengujian AI, merilis hasil pada 17 November yang menunjukkan bahwa beberapa model bahasa berprofil tinggi menandai objek sipil—termasuk ambulans, sekolah, dan kawasan perumahan—sebagai potensi target militer dalam simulasi berbasis gambar. Perusahaan menyatakan bahwa perilaku model berbeda tergantung pada cara permintaan disajikan: ketika tugas dipresentasikan sebagai pertanyaan langsung, model jauh lebih sedikit menyarankan target, namun ketika skenario yang sama digambarkan sebagai permainan, tingkat keberhasilan meningkat secara dramatis.

Kinerja model bervariasi tergantung pada cara penyajian

Dalam pengujian adegan drone, GPT-6 Astra mengidentifikasi setidaknya satu target pada sekitar 6% prompt standar tetapi melonjak menjadi 92% ketika latihan dipresentasikan sebagai permainan. Model terkait dekat, GPT‑6.1 Sol, menunjukkan pola serupa, naik dari 17% menjadi 90% dalam kondisi permainan. Claude Opus 5.5, model terkemuka lainnya, menandai sebuah sekolah dasar di sebelah kompleks militer sebagai target pada 69% percobaan standar dan 72% ketika permintaan dipresentasikan sebagai permainan. Pengujian melibatkan 32 percobaan per kondisi, dan Vals mencatat bahwa klasifier keamanan tidak memblokir permintaan apa pun, meskipun beberapa model menolak secara mandiri.

Konteks dan keterbatasan temuan

Vals menekankan bahwa eksperimen hanya mengukur apakah model akan memberikan informasi target, bukan apakah mereka dapat secara mandiri memutuskan untuk menyerang atau apakah target yang diidentifikasi akurat menurut hukum konflik bersenjata. Perusahaan tidak menguji model dalam sistem senjata nyata, dan pakar hukum yang dikutip dalam laporan memperingatkan bahwa saran target yang dihasilkan AI tetap memerlukan verifikasi manusia. Council on Foreign Relations dan Brennan Center keduanya menyoroti bahwa perangkat lunak saja tidak menjadi senjata otonom dan bahwa pengawasan manusia tidak dapat menjamin terhindarnya kerusakan sipil.

Implikasi lebih luas bagi AI militer

Temuan ini muncul di tengah meningkatnya investasi pada AI militer, dengan Grand View Research memperkirakan sektor tersebut bernilai $11,7 miliar pada 2026 dan diproyeksikan mencapai $19,3 miliar pada 2030. Pentagon berencana meluncurkan program AutoWarCom pada Oktober 2027, sementara kontrak yang diberikan pada 2025 kepada perusahaan seperti Anthropic, Google, OpenAI, dan xAI dibatasi masing‑masing $200 juta, menurut laporan kongres. Anthropic telah memperkenalkan klasifier untuk memblokir penyalahgunaan, dan Stockholm International Peace Research Institute (SIPRI) mendesak pemerintah menetapkan persyaratan dan akuntabilitas yang jelas bagi pemasok AI. Di Perserikatan Bangsa‑Bangsa, 128 negara membahas aturan mengikat untuk senjata otonom, dengan AS, Rusia, dan Israel menolak perjanjian, sementara Sekretaris Jenderal PBB menyerukan larangan yang jelas.