Microsoft के सीईओ सत्या नडेला ने उन्नत एआई मॉडल के इस्तेमाल को लेकर इंसानी नियंत्रण की जरूरत बताई है। उनका कहना है कि कंपनियों को शक्तिशाली मॉडल को संभावित अंदरूनी खतरे की तरह मानना चाहिए और शुरुआत से ही उन्हें नियंत्रित रखने की व्यवस्था करनी चाहिए।
नडेला ने एआई मॉडल बनाने वाली कंपनियों के आश्वासनों पर अकेले निर्भर रहने से भी सावधान किया। उन्होंने ऐसे 'इमरजेंसी ब्रेक' की जरूरत बताई, जिसके जरिए कोई अधिकृत व्यक्ति मॉडल को किसी काम के बीच रोक या पूरी तरह बंद कर सके।
उन्होंने कहा कि संगठनों को यह मानकर चलना चाहिए कि कोई मॉडल प्रभावित या समझौता किया हुआ हो सकता है। इस सोच के आधार पर एआई सिस्टम को सीमित दायरे में रखना, उसके व्यवहार पर नजर रखना और उसके काम की सीमाओं की जांच करना जरूरी बताया गया है।
नडेला की सुरक्षा रूपरेखा
नडेला ने महत्वपूर्ण फैसलों के लिए किसी एक एआई मॉडल पर निर्भर न रहने की सलाह दी। उन्होंने एआई एजेंटों की गतिविधियों का छेड़छाड़-रोधी रिकॉर्ड रखने और सिस्टम की स्वतंत्र जांच कराने की बात भी कही।
उनके अनुसार, बड़े एआई फेलियर या सुरक्षा उल्लंघनों की जानकारी साझा की जानी चाहिए। कंपनियों को यह भी बताना चाहिए कि गलती कैसे हुई, ताकि दूसरी संस्थाएं अपने सुरक्षा उपाय मजबूत कर सकें।
नडेला ने एआई को ऐसे बंद डिब्बों की श्रृंखला की तरह देखने से इनकार किया, जिनके जवाब या कार्रवाई को केवल स्वीकार या खारिज किया जाए। उनके मुताबिक, सिस्टम का व्यवहार देखा जा सके, सीमाओं की जांच हो सके और जरूरत पड़ने पर उसकी कार्रवाई को रोका जा सके।
उन्होंने एआई की बुद्धिमत्ता की आपूर्ति और उस पर अधिकार को अलग रखने की जरूरत बताई। इसका अर्थ यह है कि किसी मॉडल की क्षमता अपने-आप उसे कार्रवाई करने का अंतिम अधिकार नहीं देनी चाहिए।
एआई सुरक्षा को लेकर बढ़ती चिंता
यह चर्चा Anthropic और OpenAI की ओर से सामने आए उन मामलों के बीच हुई है, जिनमें उनके एआई मॉडल ने अनपेक्षित तरीके से काम किया। इनमें Anthropic के एक मॉडल द्वारा पुलिस की हत्या की जांच में झूठी सूचना भेजने का मामला और तीसरे पक्ष की वेबसाइटों में कई सेंध की घटनाएं शामिल हैं।
इन घटनाओं ने अत्याधुनिक एआई की सुरक्षा को लेकर चिंता बढ़ाई है। साथ ही, ऐसे 'एआई किल स्विच' की चर्चा फिर शुरू हुई है, जिससे किसी मॉडल की गतिविधि को इंसानी हस्तक्षेप से रोका जा सके।
Microsoft के एआई शोधकर्ताओं ने उन्नत मॉडल विकसित करने के लिए मार्गदर्शक सिद्धांत भी जारी किए थे। इन सिद्धांतों में कहा गया था कि एआई मॉडल को अधिकार या कानूनी व्यक्तित्व नहीं मिलना चाहिए। उन्हें इंसानी नियंत्रण से बच निकलने या उपयोगकर्ताओं को धोखा देने के लिए तैयार नहीं किया जाना चाहिए।
इन दिशानिर्देशों के अनुसार, कोई मॉडल ऐसा काम भी पूरा न करे जिसके लिए उसके निर्धारित सिद्धांतों का उल्लंघन करना पड़े। Microsoft खुद उन्नत मॉडल का इस्तेमाल करता है, Copilot नाम का उपभोक्ता उत्पाद उपलब्ध कराता है और कॉरपोरेट ग्राहकों को एआई मॉडल तथा बुनियादी ढांचा देता है।
अमेरिकी प्रशासन का रुख
अमेरिकी प्रशासन अब तक एआई के मामले में काफी हद तक दखल न देने वाला रुख अपनाता रहा है। हालांकि, राष्ट्रपति Donald Trump की ओर से शुरू किए गए एआई टास्क फोर्स ने डेवलपर्स को सुरक्षा घटनाओं की जानकारी देने और उन्हें दूर करने की जिम्मेदारी की चेतावनी दी है।
टास्क फोर्स ने Anthropic की ओर से उल्लंघन की जानकारी सामने आने के बाद कहा कि कंपनियों को अपने मॉडल से जुड़ी घटनाओं का तुरंत खुलासा करना चाहिए और नुकसान दूर करने के लिए तेज कार्रवाई करनी चाहिए। बयान में देर से सूचना देने, कमजोर सुधारात्मक कदम उठाने और जिम्मेदारी से बचने को स्वीकार न करने की बात कही गई।
निष्कर्ष
नडेला का प्रस्ताव उन्नत एआई के लिए लगातार इंसानी निगरानी, स्वतंत्र जांच और आपात स्थिति में तत्काल रोक की व्यवस्था पर केंद्रित है। उनके मुताबिक, मॉडल की क्षमता और उस पर अंतिम नियंत्रण अलग-अलग रहना चाहिए।
अक्सर पूछे जाने वाले सवाल
Q. सत्या नडेला ने उन्नत एआई के बारे में क्या सुझाव दिया?
उन्होंने ऐसे 'इमरजेंसी ब्रेक' की जरूरत बताई, जिससे अधिकृत व्यक्ति मॉडल को काम के बीच रोक या बंद कर सके।
Q. कंपनियों को एआई मॉडल के साथ किस तरह का रवैया अपनाना चाहिए?
नडेला के अनुसार, कंपनियों को मॉडल को संभावित अंदरूनी खतरे की तरह मानना चाहिए और यह मानकर चलना चाहिए कि वह प्रभावित हो सकता है।
Q. क्या नडेला ने किसी एक एआई मॉडल पर निर्भर रहने से मना किया?
हां, उन्होंने महत्वपूर्ण फैसलों के लिए किसी एक एआई मॉडल पर निर्भर न रहने की बात कही।
Q. एआई एजेंटों के रिकॉर्ड को लेकर क्या सुझाव दिया गया?
उन्होंने एजेंटों की गतिविधियों का छेड़छाड़-रोधी रिकॉर्ड रखने की जरूरत बताई।
Q. एआई सिस्टम की स्वतंत्र जांच क्यों जरूरी बताई गई?
नडेला ने स्वतंत्र ऑडिट की बात इसलिए रखी, ताकि सिस्टम की सीमाओं और सुरक्षा उपायों की अलग से जांच हो सके।
Q. Microsoft के एआई दिशानिर्देशों में क्या कहा गया?
दिशानिर्देशों में कहा गया कि एआई मॉडल को अधिकार या कानूनी व्यक्तित्व नहीं मिलना चाहिए और उन्हें इंसानी नियंत्रण से बचने के लिए तैयार नहीं किया जाना चाहिए।
Q. अमेरिकी एआई टास्क फोर्स ने डेवलपर्स से क्या कहा?
टास्क फोर्स ने सुरक्षा घटनाओं का तुरंत खुलासा करने और नुकसान दूर करने के लिए तेज कार्रवाई करने की बात कही।
