Пять крупнейших банков Великобритании — HSBC, Barclays, Lloyds, NatWest и Nationwide — объявили, что заблокируют или существенно ограничат доступ сторонних агентов искусственного интеллекта к счетам клиентов, особенно для автономного совершения транзакций. Это решение, о котором сообщил Cointelegraph, отражает растущую обеспокоенность по поводу безопасности данных, потенциальных «набегов ИИ-агентов на банки» и конкурентного влияния финансовых сервисов на основе ИИ.

Опасения по поводу безопасности и ответственности лежат в основе запрета

Руководители банков говорят, что ключевым фактором является отсутствие четкой ответственности в случаях, когда ИИ-агент неправильно распоряжается средствами. Джейми Даймон из JPMorgan Chase предупредил в ходе октябрьского звонка по результатам квартала, что «вам не нужны неконтролируемые агенты», выразив общее мнение о том, что банки могут нести ответственность за ошибки внешних ИИ-систем. Этот шаг также соответствует более широкой осторожности отрасли: опрос Банка Англии и FCA показал, что, хотя 80% компаний внедрили ИИ-агентов, только 2% предоставляют им широкую автономию из-за опасений утечек данных, галлюцинаций и зависимости от третьих сторон.

Конкуренция и риск набегов ИИ-агентов на банки

Помимо безопасности, банки опасаются конкурентной эрозии. Edgars Nemše, генеральный директор GenLayer Foundation, рассказал Magazine, что ИИ-агенты могут мгновенно сравнивать ставки и переводить клиентов к провайдерам с лучшими предложениями, снижая издержки переключения для владельцев обычных счетов. Главный экономист Apollo Торстен Слок в сентябре предупредил о возможном «набеге ИИ-агентов на банк», когда массы агентов переводят средства с низкодоходных текущих счетов в альтернативы с более высокой доходностью, лишая банки дешевого финансирования, необходимого для кредитования.

Что делают регуляторы

Регулирующие органы начинают заниматься этой технологией. Управление контролера денежного обращения США 4 ноября выпустило надзорную рамочную основу для «сверхинтеллекта», предоставив экзаменаторам рекомендации по оценке систем на основе ИИ, хотя она не вводит обязательных требований. В Великобритании команда разработчиков Emirates NBD призвала банки создавать собственные системы управления, такие как модель Leap, которая включает механизмы аутентификации, журналы аудита и человеческий надзор за ИИ-агентами.

За чем следить дальше

Наблюдатели отрасли будут следить за тем, введут ли другие банки Великобритании аналогичные ограничения и как финтех-компании ответят альтернативными решениями для соблюдения требований. Развитие регуляторных рекомендаций как в Великобритании, так и на международном уровне будет определять темпы, с которыми ИИ-агенты получат более широкие полномочия на совершение транзакций. Наконец, появление функций «делегированного доступа», позволяющих клиентам устанавливать лимиты расходов для агентов, может стать компромиссом между преимуществами автоматизации и снижением рисков.