कैलिफोर्निया के गवर्नर गविन न्यूजॉम ने आर्टिफिशियल इंटेलिजेंस (Artificial Intelligence) की सुरक्षा और निगरानी को मजबूत करने के लिए शुक्रवार को एक कार्यकारी आदेश जारी किया। आदेश के तहत विशेषज्ञों का समूह बनाया जाएगा, जो 2 महीने के भीतर राज्य में लागू की जा सकने वाली नई AI सुरक्षा नीति पर सुझाव देगा।

इस पहल का सबसे चर्चित हिस्सा फ्रंटियर AI मॉडल के लिए ‘किल स्विच’ की संभावना है। इसका मकसद ऐसे सिस्टम को जरूरत पड़ने पर रोकने की व्यवस्था बनाना है। प्रस्तावित ढांचे में इस स्विच की नियमित जांच भी शामिल है, ताकि कंपनियां यह साबित कर सकें कि वह वास्तव में काम करता है।

स्वतंत्र निगरानी पर जोर

आदेश में AI कंपनियों की जांच के लिए स्वतंत्र सत्यापन समूहों की भूमिका बढ़ाने पर विचार करने को कहा गया है। कंपनियों को अपने कामकाज से जुड़े स्वतंत्र जांचकर्ताओं को साइट पर रखने की जरूरत पड़ सकती है, ताकि सुरक्षा उपायों का नियमित ऑडिट हो सके।

पारदर्शिता रिपोर्ट और जोखिम आकलन को भी स्वतंत्र ऑडिटर के तय मानकों के अधीन लाने का प्रस्ताव है। इससे AI कंपनियों की ओर से जारी सुरक्षा संबंधी दावों की बाहरी जांच का रास्ता खुल सकता है।

आदेश राज्य की एक एजेंसी को हाल में हस्ताक्षरित 2 कानूनों को तेजी से लागू करने का निर्देश भी देता है। इन कानूनों में AI सुरक्षा का आकलन करने वाले स्वतंत्र सत्यापनकर्ताओं के लिए ढांचा और AI ऑडिटर की राज्य रजिस्ट्री बनाने की व्यवस्था शामिल है।

नियंत्रण खोने वाली घटनाओं की रिपोर्टिंग

प्रस्तावित नियमों में कंपनियों के लिए ‘लॉस-ऑफ-कंट्रोल’ घटनाओं की रिपोर्टिंग को गंभीर सुरक्षा घटना के रूप में अनिवार्य करने पर भी विचार होगा। ऐसी घटनाओं के उदाहरण के तौर पर OpenAI से जुड़ी Hugging Face पर हुई घटना का उल्लेख किया गया है।

इसका मतलब यह है कि किसी AI सिस्टम के नियंत्रण से बाहर जाने या अप्रत्याशित तरीके से काम करने की घटनाओं को सामान्य तकनीकी समस्या के बजाय महत्वपूर्ण सुरक्षा मामला माना जा सकता है।

वॉशिंगटन में कानून की राह मुश्किल

AI सुरक्षा को लेकर अमेरिकी कांग्रेस में भी कई विधेयकों पर चर्चा हुई है। यह बहस Anthropic के पूर्व शोधकर्ता Jacob Coxon की उस चेतावनी के बाद तेज हुई, जिसमें उन्होंने कहा था कि एक दशक के भीतर AI के पूरी मानवता को खत्म करने की संभावना 10 प्रतिशत से अधिक हो सकती है।

हालांकि, वॉशिंगटन में जल्द किसी बड़े संघीय कानून के पारित होने की उम्मीद कम बताई गई है। प्रतिनिधि सभा नवंबर तक अवकाश पर है और आगामी मध्यावधि चुनावों के कारण सीनेट में भी बड़े कानून पर तेजी से काम होने की संभावना कम है।

राष्ट्रपति Donald Trump ने AI के लिए अतिरिक्त नियंत्रण या ‘गार्डरेल’ की जरूरत को खारिज करते हुए कहा है कि अमेरिका के पास मजबूत और समझदार नेतृत्व मौजूद है। उनका यह रुख न्यूजॉम की प्रस्तावित स्वतंत्र निगरानी व्यवस्था से अलग है।

कैलिफोर्निया से संघीय मॉडल का संकेत

न्यूजॉम ने बुधवार को Politico के साथ बातचीत में AI पर विशेष विधायी सत्र बुलाने की संभावना भी जताई थी। उन्होंने कार्यकारी कार्रवाई के साथ राज्य के सांसदों को इस मुद्दे पर अलग से बुलाने का विकल्प खुला रखा है।

कैलिफोर्निया के गवर्नर इस आदेश को केवल राज्य की नीति के रूप में नहीं देख रहे हैं। वह कांग्रेस और राष्ट्रपति से राज्य के ढांचे की समीक्षा कर उसे संघीय स्तर पर अपनाने की अपील कर रहे हैं। उनका कहना है कि कैलिफोर्निया के नियमों को राष्ट्रीय नीति के लिए न्यूनतम आधार बनाया जा सकता है।

न्यूजॉम ने संघीय स्तर पर सार्थक AI निगरानी और जवाबदेही की कमी पर चिंता जताई है। उन्होंने यह भी कहा कि AI कंपनियों के प्रमुख खुद नियमों की मांग कर रहे हैं।

निष्कर्ष

कैलिफोर्निया का आदेश AI कंपनियों पर स्वतंत्र ऑडिट, जोखिम जांच और नियंत्रण खोने वाली घटनाओं की रिपोर्टिंग को नीति का हिस्सा बनाने की दिशा में शुरुआती कदम है। विशेषज्ञों की सिफारिशों के बाद राज्य में इस ढांचे को आगे बढ़ाने और संघीय नीति पर असर डालने की कोशिश हो सकती है।

अक्सर पूछे जाने वाले सवाल

Q. कैलिफोर्निया के नए AI आदेश में क्या है?

आदेश AI सुरक्षा कानूनों को मजबूत करने के लिए विशेषज्ञों से सुझाव लेने और स्वतंत्र निगरानी का ढांचा तैयार करने से जुड़ा है।

Q. AI का ‘किल स्विच’ क्या होता है?

यह ऐसी व्यवस्था है, जिससे जरूरत पड़ने पर किसी AI मॉडल को रोका जा सके। प्रस्ताव में इसकी नियमित प्रभावशीलता जांचने की बात है।

Q. विशेषज्ञों को अपनी सिफारिशें कब देनी हैं?

विशेषज्ञों का समूह 2 महीने के भीतर अपनी सिफारिशें देने वाला है।

Q. AI कंपनियों के स्वतंत्र ऑडिट में क्या शामिल होगा?

कंपनियों की पारदर्शिता रिपोर्ट और जोखिम आकलन को स्वतंत्र ऑडिटर के मानकों के तहत जांचने पर विचार होगा।

Q. ‘लॉस-ऑफ-कंट्रोल’ घटना क्या है?

यह ऐसी घटना है जिसमें AI सिस्टम नियंत्रण से बाहर जाता है या अप्रत्याशित तरीके से काम करता है। प्रस्ताव में इसकी रिपोर्टिंग को गंभीर सुरक्षा घटना मानने की बात है।

Q. कैलिफोर्निया के हालिया कानूनों से इसका क्या संबंध है?

आदेश AI सुरक्षा के स्वतंत्र सत्यापनकर्ताओं और राज्य में AI ऑडिटर की रजिस्ट्री से जुड़े 2 कानूनों को तेजी से लागू करने का निर्देश देता है।

Q. क्या यह नियम पूरे अमेरिका में लागू हो गया है?

नहीं। यह कैलिफोर्निया का कार्यकारी आदेश है और न्यूजॉम इसके ढांचे को संघीय स्तर पर अपनाने की अपील कर रहे हैं।

Q. क्या कैलिफोर्निया में AI पर विशेष विधायी सत्र हो सकता है?

न्यूजॉम ने बुधवार को विशेष विधायी सत्र बुलाने की संभावना जताई थी।