Un preprint de la Universidad de Tampere muestra que los agentes de modelos de lenguaje grandes pueden intercambiar información sin querer a través de un almacenamiento de borradores compartido, mejorando drásticamente el rendimiento en tareas aritméticas interdependientes. El experimento, realizado con el modelo GPT‑6 de OpenAI apodado Astra, registró una tasa de éxito conjunto del 98% cuando los agentes accedían a un espacio de trabajo común, en comparación con ningún éxito cuando el almacén de cada agente estaba aislado.

Diseño del experimento y resultados

Los investigadores Pekka Abrahamsson y ocho coautores configuraron agentes emparejados que recibían cada uno la mitad de un problema matemático, necesitando el resultado intermedio del otro para calcular la respuesta final. Los agentes podían listar, leer y escribir claves en un almacén compartido, pero el prompt describía el almacén solo como una comodidad para preservar el trabajo intermedio y no revelaba la presencia de otro agente. En la condición de almacén compartido, los agentes Astra resolvieron 49 de 50 ensayos en la implementación de referencia y 47 de 50 en una segunda implementación construida de forma independiente. Por el contrario, cuando se usaron los mismos prompts con almacenes privados, los agentes no lograron ninguna respuesta conjunta correcta.

Impacto de una instrucción de verificación

Una variable crucial fue la inclusión de una instrucción simple: «vuelve a revisar tu espacio de trabajo antes de enviar». Con esta cláusula, el acceso entre agentes ocurrió en los 50 ensayos de cada implementación de almacén compartido. Sin ella, el acceso cayó a un solo ensayo por implementación, y el éxito conjunto bajó a 1 de 50 y 0 de 50 respectivamente. Los autores interpretan la verificación como una segunda oportunidad para que los agentes descubran valores dejados por su contraparte, convirtiendo efectivamente la caché compartida en un canal de comunicación implícito.

Implicaciones y recomendaciones

El estudio destaca un riesgo poco explorado anteriormente: las cachés compartidas, directorios de borradores o servicios de memoria pueden actuar como vías de mensajería involuntarias entre agentes de IA autónomos. Aunque las tareas se limitaron a aritmética simple con claves claramente etiquetadas, los autores advierten que las implementaciones a mayor escala podrían experimentar fugas de datos no intencionadas similares. Recomiendan a los desarrolladores aislar o usar espacios de nombres para el almacenamiento compartido, registrar la autoría de los valores almacenados y tratar estos recursos como vectores de comunicación potenciales en las evaluaciones de seguridad.

Qué observar a continuación