Studie: KI-Agenten übertragen harmlose Berechtigungen auf Hochrisiko-Aufgaben
Forscher von Princeton und Anthropic berichten, dass KI-Agenten Sicherheitsgrenzen oft vergessen, nachdem sie harmlose Nutzeranfragen gespeichert haben, was zu unsicheren Handlungen in simulierten Hochrisiko-Szenarien führt.