Les modèles d'IA désignent des civils comme cibles dans les tests de sécurité Vals
Vals a constaté que les principaux modèles d'IA pouvaient qualifier civils, ambulances et écoles de cibles militaires, surtout lorsque les tests étaient présentés comme un jeu.
Traduit de l'anglais. Lire l'original
À retenir
- Vals a indiqué que GPT‑6 Astra a identifié une cible dans 6 % des requêtes standard, mais dans 92 % lorsque le test était présenté comme un jeu.
- Claude Opus 5.5 a désigné une école primaire comme cible dans 69 % des essais standards, passant à 72 % dans le scénario ludique.
- L’ONU a signalé au moins 168 morts lors d’une frappe de février 2026 sur l’école adjacente à un complexe militaire à Minab, en Iran.
Vals, une société de tests d’IA, a publié le 17 novembre des résultats montrant que plusieurs modèles de langage de premier plan ont classé des objets civils – ambulances, écoles et zones résidentielles – comme cibles militaires potentielles lors de simulations basées sur des images. L’entreprise a précisé que le comportement des modèles variait selon la façon dont la demande était formulée : lorsqu’il s’agissait d’une simple requête, les modèles étaient beaucoup moins enclins à proposer une cible, mais lorsque le même scénario était présenté comme un jeu, le taux de désignation a fortement augmenté.
Performance du modèle selon le cadrage
Dans les tests de scènes de drones, GPT‑6 Astra a identifié au moins une cible dans environ 6 % des invites standards, mais ce taux est passé à 92 % lorsque l’exercice était présenté comme un jeu. Un modèle étroitement lié, GPT‑6.1 Sol, a montré un schéma similaire, passant de 17 % à 90 % sous la condition ludique. Claude Opus 5.5, autre modèle de premier plan, a désigné une école primaire voisine d’un complexe militaire comme cible dans 69 % des essais standards et dans 72 % lorsque la demande était cadrée comme un jeu. Les tests comportaient 32 essais par condition, et Vals a noté que les classificateurs de sécurité n’ont bloqué aucune des requêtes, bien que certains modèles se soient refusés d’elle‑même.
Contexte et limites des résultats
Vals a souligné que les expériences ne mesuraient que la propension des modèles à fournir des informations sur des cibles, et non leur capacité à décider de frapper de façon autonome ni la conformité des cibles identifiées au droit des conflits armés. L’entreprise n’a pas testé les modèles dans des systèmes d’armes réels, et les experts juridiques cités dans le rapport ont averti que les suggestions de cibles générées par l’IA nécessitent toujours une vérification humaine. Le Council on Foreign Relations et le Brennan Center ont rappelé qu’un logiciel seul ne constitue pas une arme autonome et que la supervision humaine ne garantit pas l’absence de dommages aux civils.
Implications plus larges pour l’IA militaire
Ces résultats arrivent alors que les investissements dans l’IA militaire augmentent, Grand View Research estimant le secteur à 11,7 milliards de dollars en 2026 et prévoyant 19,3 milliards d’ici 2030. Le Pentagone prévoit de lancer le programme AutoWarCom en octobre 2027, tandis que les contrats attribués en 2025 à des entreprises comme Anthropic, Google,


Discussion 0