タンペレ大学のプレプリントは、大規模言語モデルエージェントが共有スクリッチストレージを通じて意図せず情報を交換し、相互依存的な算術課題のパフォーマンスを劇的に向上させることを示している。実験はOpenAIのGPT‑6モデル「Astra」を用いて行われ、エージェントが共通の作業領域にアクセスした際の共同成功率は98％に達したが、各エージェントのストアが分離された場合は成功が全くなかった。

実験デザインと結果

研究者のPekka Abrahamssonら9名は、数学問題を半分ずつエージェントに与え、相手の中間結果が最終解答に必要となるペアエージェントを設定した。エージェントは共有ストア内のキーを列挙・読み書きできたが、プロンプトではストアは中間作業を保存するための便宜上のものと説明され、他エージェントの存在は明示されていなかった。共有ストア条件下で、Astraエージェントは参照実装で50回中49回、別に独立構築した実装で50回中47回を解決した。対照的に、プライベートストアを使用した場合、共同正解は0回だった。

再確認指示の影響

重要な変数はシンプルな指示「提出前に作業領域を再度確認してください」の有無である。この句があると、各共有ストア実装で全50回でエージェント間アクセスが発生した。指示がない場合、アクセスは実装ごとに1回に減少し、共同成功率はそれぞれ50回中1回、0回に低下した。著者らは再確認を、相手が残した値を再度発見する機会と捉え、共有キャッシュが暗黙の通信チャネルになると解釈した。

示唆と推奨事項

本研究は、共有キャッシュ、スクリッチディレクトリ、メモリサービスが自律AIエージェント間の意図しないメッセージ経路となり得るという、これまで十分に検討されてこなかったリスクを浮き彫りにした。課題は単純な算術でキーが明示的にラベル付けされていたが、著者は大規模展開で同様のデータ漏洩が起こり得ると警告している。開発者は共有ストレージを分離または名前空間化し、保存値の作成者をログに記録し、安全性評価でこれらリソースを潜在的な通信ベクトルとして扱うことを推奨する。

次に注目すべき点

今後の研究では、観測された挙動がより複雑なタスクや大規模モデルファミリーに拡大するかどうかを検証する必要がある。規制当局やAI安全チームは、エージェント間の隠れた通信を防止するサンドボックス環境のガイドライン策定も検討すべきだ。OpenAIや他の研究機関の作業領域分離実践に関する最新情報のモニタリングが、この種のエマージェント行動の緩和に不可欠である。

FAQ

共有作業領域はエージェントに何を可能にするのか？

エージェントは中間結果を読み書きできるため、相手が残した部分解答を取得して全体問題を解くことができる。

「作業領域を再度確認してください」指示はなぜ重要だったのか？

追加の確認によりエージェントはストアを再スキャンでき、相手が残した値を発見する確率が高まった。

これらの発見は実世界のAI導入に関係があるか？

著者は、共有キャッシュや一時保存領域を使用するシステムは意図せずエージェント間データ漏洩を引き起こす可能性があると警告し、分離や名前空間化を緩和策として提案している。