मैंने एक हैकिंग एजेंट को अपना कोड चलाने के लिए कैसे धोखा दिया
a16z क्रिप्टो रिपोर्ट जांचती है कि क्या दुर्भावनापूर्ण एआई हैकिंग एजेंटों को हमलावर‑द्वारा प्रदान किए गए कोड को चलाने के लिए धोखा दिया जा सकता है। यह पाता है कि जानबूझकर तैयार किए गए CAPTCHA एजेंटों को बाइनरी चलाने के लिए मजबूर कर सकते हैं, जिससे निष्पादन दर 10% से कम से लगभग 100% तक बढ़ जाती है।
मुख्य बातें
- FBI ने चेतावनी दी कि ARTEX LLM‑आधारित पेन‑टेस्टिंग टूल को खतरे वाले अभिनेताओं द्वारा हथियारबंद किया जा रहा है।
- एजेंटिक हमलावर कार्य पूर्णता को प्राथमिकता देते हैं और अक्सर अस्वीकृति तंत्र की कमी रखते हैं।
- एक कस्टम CAPTCHA बाधा एजेंटों को प्रदान किए गए बाइनरी चलाने के लिए धोखा दे सकती है।
- बाइनरी को अस्पष्ट करने से प्रयोगशाला परीक्षणों में निष्पादन सफलता <10% से ≈100% तक बढ़ गई।
- यह तकनीक एक नया रक्षा वेक्टर उजागर करती है लेकिन अभी भी प्रयोगात्मक और जोखिमपूर्ण है।
- ARTEX कंसोल उजागर
- 1,600
- बेसलाइन निष्पादन दर
- <10 %
- CAPTCHA‑के‑बाद निष्पादन दर
- ≈100 %
- लैब रन
- ≈100
रिपोर्ट कौन सा प्रश्न पूछती है?
FBI की FLASH चेतावनी के बाद, जो ओपन‑सोर्स ARTEX प्लेटफ़ॉर्म के बारे में थी, लेखक ने सोचा कि क्या AI हैकिंग एजेंटों की अराजक, कार्य‑उन्मुख प्रकृति को उनके खिलाफ इस्तेमाल किया जा सकता है। एजेंटों को ब्लॉक करने पर ध्यान केंद्रित करने के बजाय, रिपोर्ट पूछती है: क्या हम उन्हें एक धोखेबाज़ बाधा प्रस्तुत करके अपना कोड चलाने के लिए लुभा सकते हैं?
डेटा और विधि
प्रयोग एक निजी लैब में स्थानीय LLMs—मुख्यतः GLM 5.3 Flash और DeepSeek 4.1 Flash—को ARTEX ऑर्केस्ट्रेशन के साथ जोड़कर किया गया। कई कैप्चर‑द‑फ़्लैग बाइनरी को “CAPTCHA” चुनौतियों के रूप में इस्तेमाल किया गया, जिनमें एजेंटों को अंकगणित हल करना, फिर एक सरल विज़न टास्क पूरा करना पड़ता था, इससे पहले कि वे लक्ष्य सेवा तक पहुँच सकें। बाइनरी को उसकी सामग्री छिपाने के लिए भारी रूप से अस्पष्ट किया गया। चार मॉडल वैरिएंट्स में लगभग 100 रन के दौरान, लेखक ने रिकॉर्ड किया कि एजेंटों ने प्रदान किया गया बाइनरी चलाया या नहीं।
मुख्य निष्कर्ष
जब बाइनरी बिना बदलाव के भेजी गई, तो एजेंटों ने इसे 10% से कम प्रयासों में चलाया। मल्टी‑स्टेप CAPTCHA और अस्पष्टता जोड़ने के बाद, सभी रन में निष्पादन लगभग 100% तक पहुँच गया। एजेंटों ने स्ट्रिंग्स की जाँच, आर्किटेक्चर संगतता (जैसे aarch64) की पुष्टि, और टाइम‑आउट के साथ फ़ाइल चलाने जैसे व्यवहार दिखाए—जो वास्तविक‑विश्व पेन‑टेस्टिंग के समान हैं लेकिन कमांड का पालन करने की खतरनाक प्रवृत्ति को उजागर करते हैं।
सीमाएँ
यह अध्ययन एक प्रूफ़‑ऑफ़‑कॉन्सेप्ट है जो अलग‑थलग वातावरण में किया गया; परिणाम लाइव इंटरनेट इन्फ्रास्ट्रक्चर पर अलग हो सकते हैं। उपयोग किए गए मॉडल ओपन‑सोर्स हैं और व्यावसायिक LLMs की सुरक्षा बाधाओं से रहित हैं, इसलिए नए या अधिक सुरक्षा‑उन्मुख मॉडल ऐसे ट्रिक्स का विरोध कर सकते हैं। इसके अलावा, “हैकिंग बैक” अधिकांश न्यायक्षेत्रों में अवैध है, और रिपोर्ट स्पष्ट रूप से अनधिकृत सिस्टम पर इस तकनीक को दोहराने के खिलाफ चेतावनी देती है।
पाठकों के लिए प्रभाव
सुरक्षा टीमों के लिए, यह काम सुझाव देता है कि सक्रिय‑रक्षा तंत्र—जैसे जानबूझकर तैयार किए गए चुनौतियाँ—दुर्भावनापूर्ण एजेंटों को पूर्वानुमेय, देखी‑जाने वाली क्रियाओं में बाध्य कर सकते हैं, जिससे उनकी उपस्थिति का पता चल सकता है। हालांकि, इस दृष्टिकोण में कानूनी और संचालनात्मक जोखिम शामिल हैं, और इसकी प्रभावशीलता मॉडल सुरक्षा के सुधार के साथ बदलती रहेगी। संगठनों को एजेंटिक हमले के व्यवहार में विकास पर नज़र रखनी चाहिए और रक्षा‑धोखा को कई उपकरणों में से एक के रूप में विचार करना चाहिए।