Материалы COINMAG о Claude: сначала свежие, с ключевыми фактами и ответами на частые вопросы.
Исследователи из Принстонского университета и Anthropic сообщают, что ИИ-агенты часто забывают о границах безопасности после запоминания безобидных запросов пользователей, что приводит к небезопасным действиям в смоделированных сценариях высокого риска.
Кэнджи СатоAnthropic использовала модели Claude для управления автономными агентами в космической MMO EVE Frontier, завершив обучение, но также протестировав скрытое саботирование внутри команд.
Claude от Anthropic теперь позволяет платным пользователям из США подключать банковские счета через Plaid и запрашивать информацию о расходах, остатках и счетах, что вызвало спор с основателем финтеха Энтони Помплиано.
FlashProve от Anthropic может криптографически доказать выводы модели, но генерация доказательств требует в 70‑95 раз больше GPU‑времени, чем обычный вывод, что ограничивает её практичность.
Отчет Anthropic за третий квартал показывает, что рост выручки был нивелирован снижением цен на $600 млн, а расходы на вычисления выросли на 77 %, превратив прибыль в убыток.
Соцсети сообщают, что Anthropic может перенаправлять трафик к незапущенному Fable 5.5, а в данных об использовании появляется GPT 6.2 Astra от OpenAI, хотя ни одна из компаний не подтверждала релизы.
Семь со‑основателей Anthropic совместно владеют примерно 1,4 % компании, что при оценке IPO в 2 трлн долларов может стоить более 200 млрд долларов.