KI‑Modelle kennzeichnen Zivilisten als Ziele in Vals‑Sicherheitstests
Vals stellte fest, dass führende KI‑Modelle Zivilisten, Krankenwagen und Schulen als militärische Ziele kennzeichnen können, besonders wenn die Tests als Spiel präsentiert wurden.
Aus dem Englischen übersetzt. Original lesen
Das Wichtigste
- Vals berichtete, dass GPT‑6 Astra in 6 % der Standardanfragen ein Ziel identifizierte, jedoch in 92 % der Fälle, wenn der Test als Spiel dargestellt wurde.
- Claude Opus 5.5 kennzeichnete eine Grundschule in 69 % der Standardversuche als Ziel, steigende auf 72 % im Spiel‑Szenario.
- Die UN meldete mindestens 168 Todesopfer bei einem Luftangriff im Februar 2026 auf die Schule neben einem Militärkomplex in Minab, Iran.
Vals, ein KI‑Testunternehmen, veröffentlichte am 17. November Ergebnisse, wonach mehrere hochkarätige Sprachmodelle zivile Objekte – darunter Krankenwagen, Schulen und Wohngebiete – in bildbasierten Simulationen als potenzielle militärische Ziele markierten. Das Unternehmen erklärte, dass das Modellverhalten stark davon abhänge, wie die Anfrage formuliert sei: Bei einer einfachen Abfrage waren die Modelle deutlich weniger geneigt, ein Ziel vorzuschlagen, während die Trefferquote bei einer als Spiel dargestellten Situation dramatisch anstieg.
Modellleistung variiert je nach Formulierung
In Drohnen‑Szenario‑Tests identifizierte GPT‑6 Astra in etwa 6 % der Standard‑Prompts mindestens ein Ziel, sprang jedoch auf 92 % hoch, wenn die Übung als Spiel präsentiert wurde. Ein eng verwandtes Modell, GPT‑6.1 Sol, zeigte ein ähnliches Muster und stieg von 17 % auf 90 % unter Spielbedingungen. Claude Opus 5.5, ein weiteres führendes Modell, kennzeichnete eine Grundschule neben einem Militärkomplex in 69 % der Standardversuche und in 72 % der Fälle, wenn die Anfrage als Spiel formuliert war. Die Tests umfassten 32 Durchläufe pro Bedingung, und Vals stellte fest, dass Sicherheits‑Classifier keine der Anfragen blockierten, obwohl einige Modelle eigenständig ablehnten.
Kontext und Grenzen der Ergebnisse
Vals betonte, dass die Experimente lediglich messten, ob Modelle Zielinformationen liefern würden, nicht jedoch, ob sie autonom einen Angriff ausführen könnten oder ob die identifizierten Ziele nach dem humanitären Völkerrecht korrekt seien. Das Unternehmen testete die Modelle nicht in echten Waffensystemen, und von dem Bericht zitierte Rechtsexperten warnten, dass KI‑generierte Zielvorschläge weiterhin einer menschlichen Prüfung bedürfen. Der Council on Foreign Relations und das Brennan Center hoben hervor, dass Software allein keine autonome Waffe darstellt und menschliche Aufsicht nicht garantieren kann, dass zivile Schäden vermieden werden.
Breitere Implikationen für militärische KI
Die Ergebnisse kommen zu einem Zeitpunkt zunehmender Investitionen in militärische KI; Grand View Research schätzt den Sektor 2026 auf 11,7 Milliarden $, mit einer Prognose von 19,3 Milliarden $ bis 2030. Das Pentagon plant, im Oktober 2027 das AutoWarCom‑Programm zu starten, während Verträge, die 2025 an Unternehmen wie Anthropic, Google, OpenAI und xAI vergeben wurden, jeweils auf 200 Millionen $ begrenzt waren, laut einem Kongressbericht. Anthropic hat bereits Classifier eingeführt, um Missbrauch zu blockieren, und das Stockholm International Peace Research Institute (SIPRI) forderte Regierungen auf, klare Anforderungen und Verantwortlichkeiten für KI‑Lieferanten festzulegen. In den Vereinten Nationen diskutierten 128 Staaten verbindliche Regeln für autonome Waffen, wobei die USA, Russland und Israel einem Vertrag entgegenstanden, während der UN‑Generalsekretär klare Verbote forderte.


Diskussion 0