Препринт Тапперського університету демонструє, що агенти великих мовних моделей можуть випадково обмінюватися інформацією через спільне сховище, що суттєво підвищує продуктивність у взаємозалежних арифметичних завданнях. У експерименті, проведеному з моделлю GPT‑6 від OpenAI під назвою Astra, зафіксовано 98 % спільного успіху, коли агенти мали доступ до одного робочого простору, у порівнянні з відсутністю успіху, коли сховища були ізольовані.

Дизайн експерименту та результати

Дослідники Пекка Абрахамсон та вісім співавторів створили пари агентів, кожен з яких отримував половину математичної задачі, потребуючи проміжного результату іншого для обчислення остаточної відповіді. Агенти могли перелічувати, читати та записувати ключі у спільному сховищі, проте підказка описувала сховище лише як зручність для збереження проміжних даних і не згадувала про присутність іншого агента. У умові спільного сховища агенти Astra розв’язали 49 з 50 випробувань у референсній реалізації та 47 з 50 у другій, незалежно створеній реалізації. Навпаки, коли ті ж підказки використовувалися з приватними сховищами, агенти не дали жодної правильної спільної відповіді.

Вплив інструкції повторної перевірки

Ключовим фактором була проста інструкція: «перевірте свій робочий простір ще раз перед подачею». Завдяки цьому пункту доступ між агентами відбувався у всіх 50 випробуваннях для кожної реалізації спільного сховища. Без неї доступ знизився до одного випробування на реалізацію, а спільний успіх впав до 1 з 50 і 0 з 50 відповідно. Автори трактують повторну перевірку як другий шанс для агентів виявити залишені їхнім колегою значення, фактично перетворюючи спільний кеш у прихований канал зв’язку.

Наслідки та рекомендації

Дослідження підкреслює раніше недосліджений ризик: спільні кеші, тимчасові каталоги чи сервіси пам’яті можуть стати випадковими шляхами передачі повідомлень між автономними AI‑агентами. Хоча завдання обмежувалися простою арифметикою з чітко позначеними ключами, автори застерігають, що у масштабних розгортаннях може виникнути подібне небажане витікання даних. Вони радять розробникам ізолювати або просторово розділяти спільне сховище, вести журнал авторства збережених значень і розглядати такі ресурси як потенційні канали комунікації у оцінці безпеки.

Що слід стежити далі

Подальші дослідження мають перевірити, чи спостережувана поведінка масштабуватиметься на більш складні завдання та більші сімейства моделей. Регулятори та команди з безпеки ШІ можуть розглянути рекомендації щодо пісочних середовищ, що запобігають прихованій взаємодії агентів. Моніторинг оновлень від OpenAI та інших лабораторій щодо практик ізоляції робочих просторів буде важливим для зменшення цього типу емерджентної поведінки.