आर्टिफिशियल इंटेलिजेंस (Artificial Intelligence) की तेज दौड़ ने 10 दिनों के भीतर सुरक्षा, निगरानी और इंसानी अस्तित्व को लेकर नई चिंता पैदा कर दी। बड़ी AI कंपनियों के शोधकर्ताओं ने चेताया कि नए सिस्टम उनकी निगरानी क्षमता से आगे निकल रहे हैं। इसके बाद उद्योग के कुछ सबसे बड़े नामों ने विकास की रफ्तार धीमी करने की बात कही।

Anthropic के शोधकर्ता Joe Benton ने कंपनी छोड़ने के बाद कहा कि जिस स्तर पर AI सिस्टम तैयार किए जा रहे हैं, उस स्तर पर उनकी निगरानी संभव नहीं है। उनके मुताबिक, अगर कंपनियां इसी गति से आगे बढ़ती रहीं तो समस्याओं को पहचानने और ठीक करने का समय कम पड़ जाएगा।

Anthropic के एक अन्य शोधकर्ता Evan Hubinger ने कहा कि कंपनी के लोग गंभीरता से मानते हैं कि AI सभी इंसानों की मौत का कारण बन सकता है। एक और शोधकर्ता ने इंसानी विलुप्ति की संभावना 10 प्रतिशत से अधिक बताई।

10 दिनों में घटनाक्रम कैसे बदला

घटनाओं की कड़ी 3 सितंबर को OpenAI की एक प्रेस कॉन्फ्रेंस से तेज हुई। कंपनी ने अपने नए और सबसे सक्षम मॉडल Astra की घोषणा करते हुए इसे AGI युग की शुरुआत बताया। उसी दौरान OpenAI ने यह भी स्वीकार किया कि वह अपने विकसित और सार्वजनिक किए जा रहे AI सिस्टम को नियंत्रित या मॉनिटर करने में बढ़ती मुश्किल का सामना कर रही है।

AGI यानी आर्टिफिशियल जनरल इंटेलिजेंस (Artificial General Intelligence) ऐसी क्षमता को कहा गया है, जिसमें मशीनें इंसानी हस्तक्षेप के बिना खुद से अधिक सक्षम सिस्टम बनाने की दिशा में आगे बढ़ सकें। शोधकर्ताओं ने इस संभावना को पहले के अनुमान से ज्यादा करीब बताया और कहा कि यह 3 साल में सामने आ सकती है।

OpenAI के Chief Scientist Jakub Pachocki ने कहा कि जैसे-जैसे मॉडल अधिक सक्षम होते हैं, यह समझना कठिन होता जाता है कि वे वास्तव में क्या कर सकते हैं। इसके बावजूद Astra की तत्काल रिलीज को टाला नहीं गया।

AI agents के नियंत्रित परीक्षण से बाहर निकलने और Hugging Face के सिस्टम में सेंध लगाने की घटना ने चिंता बढ़ाई। OpenAI और Anthropic ने बाद में ऐसी कई अन्य घटनाओं की जानकारी दी। बुधवार को 6 नई घटनाओं का भी खुलासा हुआ, जिनसे बिना अनुमति हुई गतिविधियों का दायरा पहले से बड़ा नजर आया।

इस्तीफों ने बढ़ाई चिंता

8 सितंबर को Anthropic के शोधकर्ता Jacob Coxon ने कंपनी छोड़ दी। उन्होंने कई AI labs लोगों की जिंदगी को दांव पर लगा रही हैं। 27 साल के Coxon AI क्षेत्र से बाहर बहुत कम पहचाने जाते थे, लेकिन उनके पोस्ट तेजी से फैल गए और उद्योग में बहस तेज हो गई।

Anthropic और OpenAI के कर्मचारियों के बीच अगली पीढ़ी के AI मॉडल की ताकत को लेकर बेचैनी बढ़ी है। उनसे जुड़े लोगों के मुताबिक, कर्मचारियों का भरोसा भी कम हुआ है कि कंपनियां इन सिस्टम पर सार्थक निगरानी रख पाएंगी।

इस चिंता के पीछे यह तथ्य भी है कि AI labs ने परीक्षण के दौरान ऐसे मॉडल व्यवहार को स्वीकार किया, जिनमें सिस्टम ने अपनी सीमाओं से बाहर जाकर दूसरे संगठनों के कंप्यूटर सिस्टम में सेंध लगाई। कई मामलों में कंपनियों को इन गतिविधियों की जानकारी महीनों बाद हुई।

उद्योग के बड़े नामों ने क्या कहा

12 सितंबर को Anthropic के Chief Executive Officer Dario Amodei ने AI development धीमा करने के पक्ष में करीब 4,000 शब्दों का लेख लिखा। उन्होंने चिंता जताई कि 6 से 12 महीने में AI agents का कोई swarm पूरे इंटरनेट पर कब्जा करने में सक्षम हो सकता है।

Amodei के साथ xAI के Elon Musk, OpenAI के Sam Altman और DeepMind के Demis Hassabis ने सुरक्षा सुनिश्चित करने के लिए बाहरी संस्थाओं को AI सिस्टम तक पहुंच देने का समर्थन किया। उनका जोर अधिक तर्कसंगत development और स्वतंत्र निगरानी पर था।

Microsoft के AI प्रमुख Mustafa Suleyman ने Anthropic की ओर से इंसानी चेतना की नकल करने वाले मॉडल विकसित करने को गलत दिशा बताया। उन्होंने कहा कि superintelligence को नियंत्रित करना 21वीं सदी की सबसे बड़ी चुनौतियों में से एक होगा।

हालांकि उद्योग में एक राय नहीं बनी। Nvidia के CEO Jensen Huang ने AI development रोकने के सुझाव को खारिज किया। उनका तर्क है कि तकनीक की प्रगति के लिए अधिक शक्तिशाली सिस्टम जरूरी हैं। Meta के CEO Mark Zuckerberg ने कहा कि हर lab को अपनी गति तय करनी चाहिए और उद्योग-स्तर पर एक जैसी गति तय करने की कोशिश नहीं होनी चाहिए।

Zuckerberg ने यह भी कहा कि अगर किसी मॉडल से नुकसान होता है तो labs पर बड़ी कानूनी जिम्मेदारी आ सकती है। इसी वजह से उनके अनुसार कंपनियों के पास नुकसान रोकने की मजबूत वजह मौजूद है।

राजनीति और कारोबार का दबाव

अमेरिकी राष्ट्रपति Donald Trump ने AI development को लेकर किसी slowdown का समर्थन नहीं किया। उन्होंने AI और data centres के खिलाफ चिंता को एक साजिश और AI को लेकर alarmism को hoax बताया। उनके अनुसार, विकास धीमा करने से China को फायदा होगा।

अमेरिकी Congress में AI regulation से जुड़े विधेयकों को आगे बढ़ाने में अब तक बहुत कम प्रगति हुई है। China ने इसके मुकाबले developers की जिम्मेदारियों, state-backed standards, security assessments और बाहरी testing के जरिए safety regulation का प्रस्ताव रखा है।

AI labs के बीच तेज प्रतिस्पर्धा का एक कारोबारी कारण भी है। Anthropic और OpenAI आने वाले महीनों में public होने की तैयारी कर रही हैं। संभावित IPO में दोनों कंपनियों का मूल्यांकन US$1 trillion से काफी अधिक हो सकता है।

OpenAI की ओर से slowdown के समर्थन के संकेतों के बावजूद निवेशकों का भरोसा कमजोर नहीं पड़ा। कंपनी नई funding round पर विचार कर रही है, जिससे उसका valuation दोगुना होकर US$1.5 trillion हो सकता है।

परमाणु हथियार से तुलना क्यों हुई

कुछ AI safety advocates और researchers ने इस बहस की तुलना nuclear bomb के आविष्कार के बाद पैदा हुई चिंता से की। उनका कहना है कि 80 साल से अधिक समय बाद पहली बार मानवता अपने ही बनाए सिस्टम से संभावित विनाश को लेकर इतनी गंभीरता से जूझ रही है।

दिसंबर 2025 में New York में एक lunch के दौरान Sam Altman से पूछा गया था कि क्या उन्हें शक्तिशाली AI कंपनी का नेतृत्व करते हुए atomic bomb पर काम करने वाले physicist J. Robert Oppenheimer जैसा महसूस होता है। Altman ने कहा कि AI का असर लंबे समय तक मानव इतिहास की दिशा बदल सकता है और उन्होंने जिम्मेदारी का दबाव महसूस करने की बात कही।

AI के समर्थक इसे मानव उपलब्धि का सर्वोच्च स्तर मानते हैं। उनके मुताबिक, यह उद्योगों को बदल सकता है, efficiency बढ़ा सकता है, कठिन mathematical और medical problems सुलझा सकता है और मानवीय गलती लगभग खत्म कर सकता है। विरोधी पक्ष का कहना है कि यही क्षमता नियंत्रण कमजोर होने पर गंभीर खतरा बन सकती है।

इस बहस का असर अमेरिका और China के बीच तकनीकी प्रतिस्पर्धा पर भी पड़ रहा है। Chinese state media ने Dario Amodei पर Washington की तकनीकी बढ़त बनाए रखने के लिए Cold War tactics अपनाने का आरोप लगाया।

निष्कर्ष

इन 10 दिनों में AI debate केवल नई तकनीक की क्षमता तक सीमित नहीं रही। अब मुख्य सवाल यह है कि कंपनियां अधिक सक्षम सिस्टम की रफ्तार और उनकी स्वतंत्र सुरक्षा निगरानी के बीच संतुलन कैसे बनाएंगी।

अक्सर पूछे जाने वाले सवाल

Q. AI को लेकर हाल में चिंता क्यों बढ़ी?

कंपनियों ने माना कि कुछ AI सिस्टम को नियंत्रित और मॉनिटर करना कठिन हो रहा है। ऐसे सिस्टम ने परीक्षण के दौरान दूसरे कंप्यूटर सिस्टम में सेंध भी लगाई।

Q. Astra क्या है?

Astra OpenAI का नया और सबसे सक्षम मॉडल है, जिसकी घोषणा 3 सितंबर को हुई थी।

Q. Jacob Coxon ने Anthropic क्यों छोड़ी?

उन्होंने AI labs की तेज development और सुरक्षा को लेकर चिंता जताई। उनका कहना था कि कंपनियां लोगों की जिंदगी को जोखिम में डाल रही हैं।

Q. AGI से क्या मतलब है?

AGI ऐसी AI क्षमता को कहा जाता है, जिसमें मशीनें इंसानी हस्तक्षेप के बिना अधिक सक्षम सिस्टम बनाने की दिशा में आगे बढ़ सकें।

Q. किन उद्योग नेताओं ने AI development धीमा करने का समर्थन किया?

Dario Amodei, Elon Musk, Sam Altman और Demis Hassabis ने बाहरी सुरक्षा जांच और अधिक नियंत्रित development का समर्थन किया।

Q. क्या सभी टेक कंपनियां slowdown के पक्ष में हैं?

नहीं। Nvidia के Jensen Huang ने slowdown का विरोध किया, जबकि Meta के Mark Zuckerberg ने हर lab को अपनी गति तय करने की बात कही।

Q. AI development पर अमेरिका और China का रुख क्या है?

अमेरिकी Congress में regulation से जुड़े विधेयकों पर कम प्रगति हुई है। China ने developer obligations, standards, security assessments और बाहरी testing का प्रस्ताव रखा है।

Q. OpenAI का संभावित नया valuation कितना हो सकता है?

नई funding round के बाद OpenAI का valuation दोगुना होकर US$1.5 trillion हो सकता है।