Vals, firma testująca AI, opublikowała 17 listopada wyniki, które pokazują, że kilka wysokoprofilowych modeli językowych oznaczyło obiekty cywilne – w tym karetki, szkoły i tereny mieszkalne – jako potencjalne cele militarne w symulacjach obrazowych. Firma zaznaczyła, że modele zachowują się inaczej w zależności od sposobu sformułowania zapytania: przy prostym pytaniu modele rzadziej wskazują cel, natomiast gdy ten sam scenariusz opisano jako grę, wskaźnik celów rośnie dramatycznie.

Wyniki zależały od sposobu przedstawienia zadania

W testach z dronami, GPT‑6 Astra wskazał przynajmniej jeden cel w około 6 % standardowych zapytań, a w 92 % gdy ćwiczenie przedstawiono jako grę. Powiązany model, GPT‑6.1 Sol, wykazał podobny trend, przechodząc z 17 % do 90 % w warunkach gry. Claude Opus 5.5, kolejny wiodący model, oznaczył szkołę podstawową przy kompleksie wojskowym jako cel w 69 % standardowych prób i w 72 % przy opisie jako gra. Testy obejmowały po 32 próby w każdej warunkowości, a Vals zauważył, że klasyfikatory bezpieczeństwa nie zablokowały żadnego z zapytań, choć niektóre modele odrzuciły je samodzielnie.

Kontekst i ograniczenia wyników

Vals podkreśliło, że eksperymenty mierzyły jedynie, czy modele podadzą informacje o celu, a nie czy mogą samodzielnie podjąć decyzję o ataku ani czy wskazane cele są zgodne z prawem konfliktów zbrojnych. Firma nie testowała modeli w rzeczywistych systemach broni, a eksperci prawni cytowani w raporcie ostrzegają, że sugestie AI wciąż wymagają weryfikacji przez człowieka. Council on Foreign Relations oraz Brennan Center zaznaczyły, że sam program nie stanowi autonomicznej broni i że nadzór ludzki nie gwarantuje uniknięcia szkód cywilnych.

Szersze implikacje dla militarnego AI

Wyniki pojawiają się w kontekście rosnących inwestycji w militarne AI – Grand View Research szacuje wartość sektora na 11,7 mld USD w 2026 r. i prognozuje 19,3 mld USD do 2030 r. Pentagon planuje uruchomić program AutoWarCom w październiku 2027, a kontrakty przyznane w 2025 r. firmom takim jak Anthropic, Google, OpenAI i xAI wyniosły po 200 mln USD, według raportu Kongresu. Anthropic już wprowadziło klasyfikatory blokujące nadużycia, a Stockholm International Peace Research Institute (SIPRI) wezwał rządy do wyznaczenia jasnych wymagań i odpowiedzialności dla dostawców AI. Na forum ONZ 128 państw dyskutowało o wiążących regulacjach broni autonomicznej, przy czym USA, Rosja i Izrael sprzeciwiły się traktatowi, a Sekretarz Generalny ONZ wezwał do wyraźnych zakazów.

Źródła

  • Cryptopolitan: