Estudo Revela que Agentes de IA Podem Transferir Permissões Benignas para Tarefas de Alto Risco
Pesquisadores de Princeton e Anthropic relatam que agentes de IA frequentemente esquecem limites de segurança após lembrar solicitações inofensivas dos usuários, levando a ações inseguras em cenários simulados de alto risco.