Microsoft के शोधकर्ताओं ने एक ऐसी तकनीकी कमजोरी की पहचान की है, जिसमें AI एजेंट के 10 से कम न्यूरॉन्स में बदलाव करके उसके व्यवहार में छिपा बैकडोर डाला जा सकता है। यह जानकारी Microsoft की रिसर्च और उससे जुड़ी रिपोर्टों में सामने आई है।

AI एजेंट ऐसे सिस्टम होते हैं जो यूजर के निर्देशों के आधार पर काम कर सकते हैं। वे कई चरणों में काम करने, निर्णय लेने या दूसरे डिजिटल टूल का इस्तेमाल करने में सक्षम हो सकते हैं। ऐसे सिस्टम में छिपा बदलाव सुरक्षा के लिए खास चिंता पैदा कर सकता है।

रिसर्च में क्या सामने आया

Microsoft ने इस विषय पर “Detecting sleeper agents hiding in AI model neurons” नाम से रिसर्च प्रकाशित की है। एक अन्य Microsoft रिसर्च का शीर्षक “Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents” है। इन शीर्षकों के अनुसार, शोध का फोकस AI मॉडल के भीतर छिपे या निष्क्रिय न्यूरॉन्स और उनके इस्तेमाल से जुड़े बैकडोर पर है।

रिपोर्ट के अनुसार, शोधकर्ताओं ने दिखाया कि 10 से कम न्यूरॉन्स में संपादन से AI एजेंट को बैकडोर किया जा सकता है। यहां बैकडोर का मतलब ऐसे छिपे बदलाव से है, जो सामान्य इस्तेमाल के दौरान दिखाई न दे और किसी खास स्थिति में एजेंट के व्यवहार को प्रभावित कर सके।

AI सुरक्षा के लिए इसका असर

इस खोज से संकेत मिलता है कि AI मॉडल की सुरक्षा जांच केवल उसके सामान्य आउटपुट देखकर पूरी नहीं मानी जा सकती। मॉडल के अंदर मौजूद न्यूरॉन्स और उनके व्यवहार की भी जांच जरूरी हो सकती है। हालांकि, उपलब्ध जानकारी में प्रयोग की पूरी प्रक्रिया, इस्तेमाल किए गए मॉडल और बैकडोर के सक्रिय होने की खास शर्तें नहीं दी गई हैं।

AI एजेंटों का इस्तेमाल बढ़ने के साथ उनकी विश्वसनीयता और सुरक्षा महत्वपूर्ण हो गई है। यदि किसी एजेंट में छिपा बदलाव मौजूद हो, तो उसके कामकाज का आकलन करना मुश्किल हो सकता है। इसलिए मॉडल की जांच, निगरानी और तैनाती से पहले सुरक्षा परीक्षण इस विषय की अहम कड़ियां हैं।

The Hacker News ने भी Microsoft के शोधकर्ताओं की इस खोज को 10 से कम न्यूरॉन्स में बदलाव से AI एजेंट को बैकडोर किए जाने के रूप में रिपोर्ट किया है। उपलब्ध स्रोतों में इस खोज के आधार पर किसी वास्तविक हमले, नुकसान या प्रभावित उत्पाद की जानकारी नहीं है।

निष्कर्ष

Microsoft की रिसर्च के अनुसार, AI एजेंट में छिपा बैकडोर डालने के लिए 10 से कम न्यूरॉन्स में बदलाव पर्याप्त हो सकता है। यह खोज मॉडल के अंदरूनी हिस्सों की सुरक्षा जांच की जरूरत को रेखांकित करती है, लेकिन उपलब्ध जानकारी में प्रयोग और व्यावहारिक असर का पूरा विवरण नहीं है।

अक्सर पूछे जाने वाले सवाल

Q. Microsoft की रिसर्च किस विषय पर है?

Microsoft की रिसर्च AI मॉडल के न्यूरॉन्स में छिपे या निष्क्रिय बैकडोर की पहचान और उनसे जुड़े जोखिमों पर है।

Q. बैकडोर डालने के लिए कितने न्यूरॉन्स में बदलाव की बात कही गई है?

रिपोर्ट के अनुसार, 10 से कम न्यूरॉन्स में बदलाव करके AI एजेंट को बैकडोर किया जा सकता है।

Q. बैकडोर से क्या मतलब है?

बैकडोर AI सिस्टम में किया गया ऐसा छिपा बदलाव है, जो किसी खास स्थिति में उसके व्यवहार को प्रभावित कर सकता है।

Q. क्या किसी वास्तविक हमले या नुकसान की जानकारी दी गई है?

उपलब्ध जानकारी में किसी वास्तविक हमले, नुकसान या प्रभावित उत्पाद का उल्लेख नहीं है।

Q. क्या रिसर्च में प्रयोग की पूरी प्रक्रिया उपलब्ध है?

दिए गए स्रोतों में प्रयोग की पूरी प्रक्रिया, इस्तेमाल किए गए मॉडल और सक्रिय होने की खास शर्तों का विवरण उपलब्ध नहीं है।