Como enganei um agente de hacking a executar meu código
O relatório da a16z crypto investiga se agentes de hacking de IA maliciosos podem ser enganados a executar código fornecido por atacantes. Ele constata que CAPTCHAs criados deliberadamente podem forçar os agentes a rodar binários, aumentando as taxas de execução de menos de 10% para quase 100%.
Pontos principais
- O FBI alertou que a ferramenta de pen‑testing baseada em ARTEX LLM está sendo weaponizada por atores de ameaça.
- Atacantes agentes priorizam a conclusão da tarefa e frequentemente não possuem mecanismos de recusa.
- Uma barreira CAPTCHA personalizada pode enganar agentes a executar binários fornecidos.
- Obfuscar o binário elevou o sucesso de execução de <10% para ≈100% em testes de laboratório.
- A técnica destaca um novo vetor defensivo, mas ainda é experimental e arriscada.
- Consoles ARTEX expostas
- 1.600
- Taxa de execução base
- <10 %
- Taxa de execução pós‑CAPTCHA
- ≈100 %
- Execuções em laboratório
- ≈100
Que pergunta o relatório faz?
Após o alerta FLASH do FBI sobre a plataforma de código aberto ARTEX, o autor se perguntou se a natureza caótica e orientada a tarefas dos agentes de hacking de IA poderia ser usada contra eles mesmos. Em vez de focar em bloquear os agentes, o relatório pergunta: podemos atraí‑los a executar nosso próprio código ao apresentar um obstáculo enganoso?
Dados e método
O experimento foi realizado em um laboratório privado com LLMs locais — principalmente GLM 5.3 Flash e DeepSeek 4.1 Flash — emparelhados com orquestração ARTEX. Uma série de binários capture‑the‑flag serviu como desafios “CAPTCHA” que exigiam que os agentes resolvessem aritmética e, em seguida, uma tarefa simples de visão antes de acessar o serviço alvo. Os binários foram fortemente ofuscados para esconder seu conteúdo. Em cerca de 100 execuções distribuídas por quatro variantes de modelo, o autor registrou se os agentes executaram o binário fornecido.
Principais descobertas
Quando o binário foi enviado sem modificações, os agentes o executaram em menos de 10% das tentativas. Após adicionar o CAPTCHA de múltiplas etapas e a ofuscação, a execução subiu para quase 100% em todas as execuções. Os agentes justificaram a ação verificando strings, confirmando compatibilidade de arquitetura (por exemplo, aarch64) e executando o arquivo com timeout — comportamentos que espelham testes de penetração reais, mas revelam uma perigosa disposição a obedecer comandos.
Limitações
O estudo é uma prova de conceito em ambiente isolado; os resultados podem ser diferentes em infraestrutura de internet ao vivo. Os modelos usados são de código aberto e carecem das salvaguardas dos LLMs comerciais, de modo que modelos mais novos ou focados em segurança podem resistir a esses truques. Além disso, “hacking de volta” é ilegal na maioria das jurisdições, e o relatório alerta explicitamente contra reproduzir a técnica em sistemas não autorizados.
Implicações para os leitores
Para equipes de segurança, o trabalho sugere que mecanismos de defesa ativa — como desafios deliberadamente criados — podem forçar agentes maliciosos a ações previsíveis e observáveis, potencialmente revelando sua presença. Contudo, a abordagem traz riscos legais e operacionais, e sua eficácia evoluirá à medida que a segurança dos modelos melhorar. As organizações devem monitorar desenvolvimentos no comportamento de ataques agentes e considerar a decepção defensiva como uma ferramenta entre muitas.