ハッキングエージェントに自分のコードを実行させた方法
a16z の暗号レポートは、悪意ある AI ハッキングエージェントが攻撃者提供のコードを実行させるように騙すことができるかを調査しています。意図的に作成した CAPTCHA がエージェントにバイナリを実行させ、実行率を 10% 未満からほぼ 100% にまで向上させることが分かりました。
要点
- FBI は、ARTEX LLM 駆動のペンテストツールが脅威アクターに武器化されていると警告しました。
- エージェント型攻撃者はタスク完了を優先し、拒否メカニズムを持たないことが多いです。
- カスタム CAPTCHA バリアはエージェントに提供されたバイナリを実行させることができます。
- バイナリを難読化することで、実行成功率が <10% から実験室テストで ≈100% に上がりました。
- この手法は新たな防御ベクトルを示すものの、実験段階でリスクが伴います。
- ARTEX コンソールの露出
- 1,600
- ベースライン実行率
- <10%
- CAPTCHA 後の実行率
- ≈100%
- ラボ実行回数
- ≈100
What question does the report ask?
FBI の FLASH 警告がオープンソースの ARTEX プラットフォームに出された後、著者は AI ハッキングエージェントのカオスでタスク指向な性質が自分たちに逆転できないかと考えました。エージェントをブロックすることに焦点を当てる代わりに、レポートは次の質問を投げかけます:欺瞞的な障壁を提示して、エージェントを自分たちのコードを実行させることはできるか?
Data and method
実験はプライベートラボでローカル LLM(主に GLM 5.3 Flash と DeepSeek 4.1 Flash)を ARTEX オーケストレーションと組み合わせて行いました。一連の Capture‑the‑Flag バイナリを「CAPTCHA」課題として提供し、エージェントに算術問題を解かせ、続いて簡単なビジョンタスクをクリアさせてターゲットサービスにアクセスさせました。バイナリは内容を隠すために大幅に難読化されました。4 つのモデルバリエーションで約 100 回の実行を行い、エージェントが提供されたバイナリを実行したかどうかを記録しました。
Main findings
バイナリをそのまま送った場合、エージェントの実行率は 10% 未満でした。マルチステップ CAPTCHA と難読化を加えると、実行率はすべての実行でほぼ 100% に上昇しました。エージェントは文字列をチェックし、アーキテクチャ互換性(例:aarch64)を確認し、タイムアウト付きでファイルを実行するという行動で正当化しました。これらは実世界のペンテストと似ていますが、コマンドに従う危険な傾向を露呈しています。
Caveats
本研究は隔離環境での概念実証であり、実際のインターネットインフラ上では結果が異なる可能性があります。使用したモデルはオープンソースで商用 LLM のガードレールがなく、より新しい安全志向のモデルはこの手法に抵抗できるかもしれません。さらに「ハッキング・バック」は多くの法域で違法であり、レポートは未許可システムでの手法再現を明確に警告しています。
Implications for readers
セキュリティチームにとって、本研究は能動的防御メカニズム—意図的に作成した課題—が悪意あるエージェントを予測可能で観測可能な行動に誘導し、その存在を明らかにできる可能性を示唆しています。ただし、このアプローチは法的・運用上のリスクを伴い、モデルの安全性が向上するにつれて有効性も変化します。組織はエージェント型攻撃行動の動向を監視し、防御的欺瞞を多様なツールの一つとして検討すべきです。