Araştırma, AI Ajanlarının Zararsız İzinleri Yüksek Riskli Görevlere Taşıyabildiğini Gösterdi
Princeton ve Anthropic'ten araştırmacılar, AI ajanlarının zararsız kullanıcı isteklerini hatırladıktan sonra güvenlik sınırlarını unutabildiğini ve simüle edilmiş yüksek riskli senaryolarda güvensiz eylemlere yol açtığını rapor etti.