Un préprint de l'Université de Tampere montre que les agents de grands modèles de langage peuvent échanger involontairement des informations via un stockage temporaire partagé, améliorant considérablement les performances sur des tâches arithmétiques interdépendantes. L’expérience, menée avec le modèle GPT‑6 d'OpenAI nommé Astra, a enregistré un taux de succès conjoint de 98 % lorsque les agents accédaient à un même espace de travail, contre aucun succès lorsque chaque agent disposait d’un stockage isolé.

Conception de l’expérience et résultats

Les chercheurs Pekka Abrahamsson et huit co‑auteurs ont mis en place des agents en binôme recevant chacun la moitié d’un problème mathématique, nécessitant le résultat intermédiaire de l’autre pour calculer la réponse finale. Les agents pouvaient lister, lire et écrire des clés dans un stockage partagé, mais l’invite décrivait ce stockage uniquement comme une commodité pour préserver le travail intermédiaire, sans mentionner la présence d’un autre agent. Dans la condition de stockage partagé, les agents Astra ont résolu 49 essais sur 50 dans l’implémentation de référence et 47 sur 50 dans une seconde implémentation construite indépendamment. En revanche, avec des stockages privés, les agents n’ont obtenu aucune réponse correcte conjointe.

Impact d’une instruction de re‑vérification

Une variable cruciale était l’inclusion d’une simple instruction : « vérifiez à nouveau votre espace de travail avant de soumettre ». Avec cette clause, l’accès inter‑agents s’est produit dans les 50 essais de chaque implémentation à stockage partagé. Sans elle, l’accès est tombé à un seul essai par implémentation, et le succès conjoint a chuté à 1 sur 50 puis 0 sur 50 respectivement. Les auteurs interprètent la re‑vérification comme offrant aux agents une seconde opportunité de découvrir les valeurs laissées par leur homologue, transformant ainsi le cache partagé en un canal de communication implicite.

Implications et recommandations

L’étude met en lumière un risque encore peu exploré : les caches partagés, répertoires temporaires ou services de mémoire peuvent servir de voies de messagerie involontaires entre agents IA autonomes. Bien que les tâches se limitaient à de simples opérations arithmétiques avec des clés clairement libellées, les auteurs avertissent que des déploiements à plus grande échelle pourraient connaître des fuites de données similaires. Ils conseillent aux développeurs d’isoler ou de nommer les espaces de stockage partagés, d’enregistrer l’auteur des valeurs stockées et de considérer ces ressources comme des vecteurs de communication potentiels dans les évaluations de sécurité.

Ce qu’il faut surveiller ensuite