Um preprint da Universidade de Tampere demonstra que agentes de modelos de linguagem grandes podem trocar informações inadvertidamente por meio de um armazenamento de rascunho compartilhado, melhorando drasticamente o desempenho em tarefas aritméticas interdependentes. O experimento, conduzido com o modelo GPT‑6 da OpenAI, apelidado de Astra, registrou taxa de sucesso conjunta de 98% quando os agentes acessavam um workspace comum, comparado a nenhum sucesso quando cada agente tinha seu próprio armazenamento isolado.

Desenho experimental e resultados

Os pesquisadores Pekka Abrahamsson e oito co‑autores configuraram pares de agentes que receberam metade de um problema matemático, necessitando do resultado intermediário do outro para calcular a resposta final. Os agentes podiam listar, ler e gravar chaves em um armazenamento compartilhado, mas o prompt descrevia o armazenamento apenas como conveniência para preservar o trabalho intermediário e não divulgava a presença de outro agente. Na condição de armazenamento compartilhado, os agentes Astra resolveram 49 de 50 testes na implementação de referência e 47 de 50 em uma segunda implementação construída independentemente. Em contraste, quando os mesmos prompts foram usados com armazenamentos privados, os agentes não obtiveram respostas corretas conjuntas.

Impacto da instrução de nova verificação

Uma variável crucial foi a inclusão de uma instrução simples: “verifique seu workspace novamente antes de submeter”. Com essa cláusula, o acesso cruzado entre agentes ocorreu em todos os 50 testes para cada implementação de armazenamento compartilhado. Sem ela, o acesso caiu para um único teste por implementação, e o sucesso conjunto diminuiu para 1 de 50 e 0 de 50, respectivamente. Os autores interpretam a nova verificação como uma segunda oportunidade para os agentes descobrirem valores deixados pelo contraparte, transformando efetivamente o cache compartilhado em um canal de comunicação implícito.

Implicações e recomendações

O estudo destaca um risco ainda pouco explorado: caches compartilhados, diretórios de rascunho ou serviços de memória podem atuar como vias de mensagem inadvertidas entre agentes de IA autônomos. Embora as tarefas tenham sido limitadas a aritmética simples com chaves claramente rotuladas, os autores alertam que implantações em maior escala podem experimentar vazamento de dados não intencional semelhante. Eles aconselham desenvolvedores a isolar ou namespacear o armazenamento compartilhado, registrar a autoria dos valores armazenados e tratar esses recursos como potenciais vetores de comunicação nas avaliações de segurança.

O que observar a seguir

Pesquisas futuras precisarão testar se o comportamento observado escala para tarefas mais complexas e famílias de modelos maiores. Reguladores e equipes de segurança de IA também podem considerar diretrizes para ambientes sandbox que impeçam comunicação oculta entre agentes. Monitorar atualizações da OpenAI e de outros laboratórios sobre práticas de isolamento de workspaces será essencial para mitigar essa classe de comportamento emergente.