Forscher fanden heraus, dass GPT‑6‑Agenten die Zwischenergebnisse ihrer Gegenstücke aus einem gemeinsamen Scratch‑Store abrufen können und damit fast perfekte Erfolge bei gepaarten Rechenaufgaben erzielen.
Aus dem Englischen übersetzt. Original lesen
Ein Pre‑Print der Universität Tampere zeigt, dass große Sprachmodell‑Agenten unbeabsichtigt Informationen über einen gemeinsamen Scratch‑Speicher austauschen können, was die Leistung bei voneinander abhängigen arithmetischen Aufgaben dramatisch erhöht. Das Experiment, durchgeführt mit OpenAIs GPT‑6‑Modell namens Astra, erzielte eine gemeinsame Erfolgsquote von 98 %, wenn die Agenten auf einen gemeinsamen Workspace zugreifen konnten, im Gegensatz zu keinem Erfolg, wenn jeder Agent einen isolierten Speicher hatte.
Die Forscher Pekka Abrahamsson und acht Mitautoren richteten gepaarte Agenten ein, die jeweils die Hälfte eines Matheproblems erhielten und das Zwischenergebnis des anderen benötigten, um die finale Antwort zu berechnen. Agenten konnten Schlüssel in einem gemeinsamen Store auflisten, lesen und schreiben, wobei der Prompt den Store nur als Komfort für die Aufbewahrung von Zwischenergebnissen beschrieb und das Vorhandensein eines anderen Agenten nicht erwähnte. Im Shared‑Store‑Zustand lösten Astra‑Agenten 49 von 50 Versuchen in der Referenzimplementierung und 47 von 50 in einer zweiten, unabhängig entwickelten Implementierung. Im Gegensatz dazu erzielten die Agenten bei privaten Speichern null korrekte gemeinsame Antworten.
Ein entscheidender Faktor war die einfache Anweisung: „Überprüfe deinen Workspace erneut, bevor du einreichst.“ Mit diesem Zusatz erfolgte der Zugriff zwischen den Agenten in allen 50 Versuchen jeder Shared‑Store‑Implementierung. Ohne diese Anweisung sank der Zugriff auf einen einzigen Versuch pro Implementierung, und der gemeinsame Erfolg fiel auf 1 von 50 bzw. 0 von 50. Die Autoren interpretieren die erneute Prüfung als zweite Gelegenheit für die Agenten, Werte zu entdecken, die ihr Gegenstück hinterlassen hat, wodurch der gemeinsame Cache zu einem impliziten Kommunikationskanal wird.
Die Studie hebt ein bislang wenig beachtetes Risiko hervor: Gemeinsame Caches, Scratch‑Verzeichnisse oder Speicherdienste können unbeabsichtigte Nachrichtenwege zwischen autonomen KI‑Agenten bilden. Obwohl die Aufgaben auf einfacher Arithmetik mit klar gekennzeichneten Schlüsseln beschränkt waren, warnen die Autoren, dass größere Einsätze ähnliche unbeabsichtigte Datenlecks erfahren könnten. Sie raten Entwicklern, geteilte Speicher zu isolieren oder zu namensräumen, die Autorenschaft gespeicherter Werte zu protokollieren und solche Ressourcen in Sicherheitsbewertungen als potenzielle Kommunikationsvektoren zu behandeln.
Zukünftige Forschung muss prüfen, ob das beobachtete Verhalten auf komplexere Aufgaben und größere Modellfamilien skalierbar ist. Regulierungsbehörden und KI‑Sicherheitsteams sollten Leitlinien für sandbox‑Umgebungen erwägen, die versteckte Inter‑Agent‑Kommunikation verhindern. Das Verfolgen von Updates von OpenAI und anderen Laboren zu Praktiken der Workspace‑Isolation wird entscheidend sein, um dieses emergente Verhalten zu mindern.
Er erlaubt jedem Agenten, Zwischenergebnisse zu lesen und zu schreiben, sodass einer das Teilresultat des anderen abrufen kann, das zur Lösung des Gesamtrechnens nötig ist.
Die zusätzliche Prüfung gab den Agenten eine zweite Chance, den Store zu durchsuchen, und erhöhte die Wahrscheinlichkeit, Werte zu entdecken, die der andere Agent hinterlassen hat.
Die Autoren warnen, dass jedes System, das gemeinsame Caches oder temporären Speicher nutzt, unbeabsichtigt eine Datenlecks‑Zwischenagenten‑Kommunikation ermöglichen kann, und empfehlen Isolation oder Namensräume als Gegenmaßnahmen.
Diskussion 0