Дослідження показало, що AI‑агенти можуть переносити безневинні дозволи на високоризикові завдання
Дослідники з Прінстону та Anthropic повідомляють, що AI‑агенти часто забувають межі безпеки після запам’ятовування безпечних запитів користувачів, що призводить до небезпечних дій у змодельованих високострасних сценаріях.