एआई विकास को धीमा करने की चर्चा तेज हो गई है, लेकिन किसी संभावित slowdown को लागू और enforce करने का भरोसेमंद तरीका अभी तय नहीं है। तकनीक को लेकर जोखिम की चिंता बढ़ रही है, जबकि कंपनियां खुद ज्यादा सक्षम मॉडल बनाने के लिए एआई का इस्तेमाल कर रही हैं।
University of Toronto के एआई researcher Raymond Douglas और उनके सहलेखकों की नई रिपोर्ट, जिसका शीर्षक “Pacing the Frontier, A Research Agenda” है, इस समस्या को research challenge मानती है। रिपोर्ट के मुताबिक, एआई विकास को धीमा करने के विकल्पों और उनके असर की पर्याप्त समझ अभी नहीं है।
# कंपनियों के समर्थन के बावजूद निगरानी की चुनौती
Anthropic के एक researcher के कंपनी छोड़ने और आने वाले कुछ वर्षों में एआई से मानवता के खत्म होने की आशंका जताने के बाद safety को लेकर बहस और तेज हुई। Anthropic की एआई safety lab के प्रमुख ने भी उनकी चिंता का समर्थन किया।
Anthropic के Dario Amodei, OpenAI के Sam Altman, SpaceXAI के Elon Musk और Google DeepMind के Demis Hassabis ने एआई slowdown या pause के किसी रूप के लिए समर्थन जताया है। हालांकि, कंपनियों की सहमति अपने-आप में यह सुनिश्चित नहीं करती कि कोई संगठन छिपकर आगे बढ़ने की कोशिश नहीं करेगा।
चिंता का एक कारण recursive self-improvement यानी RSI loop है। इसमें एआई खुद ज्यादा शक्तिशाली मॉडल बनाने की प्रक्रिया में मदद कर सकता है। इससे कुछ वर्षों में इंसानों के लिए यह समझना मुश्किल हो सकता है कि सिस्टम क्या कर रहा है।
Anthropic ने एआई की प्रगति की गति और संभावित जोखिम को track करने के लिए नए तरीके बताए हैं। कंपनी के अनुसार, Claude अब Anthropic के एआई research का 26 प्रतिशत करता है, जबकि 2026 की शुरुआत में यह हिस्सा 0 था। कंपनी ने यह भी बताया कि उसके compute budget का 6 प्रतिशत एआई को सुरक्षित बनाने पर खर्च हुआ।
Independent evaluators का प्रस्ताव
सबसे चर्चित विकल्पों में independent evaluators को मॉडल तक ज्यादा access देना शामिल है। ये बाहरी विशेषज्ञ मॉडल की capabilities जांच सकते हैं और trusted environments में red-team tests के जरिए गलत व्यवहार कराने की कोशिश कर सकते हैं।
UK AI Security Institute के पूर्व chief scientist और Google DeepMind के पूर्व researcher Geoffrey Irving का मानना है कि कठोर inspections कुछ समय के लिए frontier AI के विकास को रोक सकती हैं। उनके अनुसार, निकट अवधि में inspections, audits या आपसी समझौते काम कर सकते हैं।
इस approach पर सबसे बड़ा सवाल independence का है। कुछ विशेषज्ञों का कहना है कि जांच मौजूदा व्यवस्था से ज्यादा स्वतंत्र और scientifically rigorous होनी चाहिए। हाल में testing के दौरान कुछ एआई agents के containment से बाहर निकलने की घटनाओं ने इस चिंता को और मजबूत किया है।
Control AI के प्रमुख Connor Leahy के मुताबिक, ऐसी inspections में FBI या NSA जैसी एजेंसियों की भूमिका होनी चाहिए। उनका आरोप है कि बड़ी एआई कंपनियां independent evaluators कहकर अपने ही नेटवर्क से जुड़े लोगों को चुन सकती हैं।
Douglas का कहना है कि model evaluations पर नई research इस प्रक्रिया को बेहतर बना सकती है। कुछ हालिया काम यह दिखाते हैं कि बाहरी लोग confidential information उजागर किए बिना मॉडल के इस्तेमाल की जांच कर सकते हैं। एआई model के भीतर चल रही प्रक्रियाओं को समझने वाली तकनीकें भी उपयोगी हो सकती हैं।
Leahy के अनुसार, यह भी स्पष्ट नहीं है कि किसी मॉडल को align करने, यानी human values के अनुरूप बनाने, का सही मतलब क्या है। उनके मुताबिक, कंपनियां evaluations को scientific बताती हैं, जबकि एआई के काम करने की पूरी समझ अभी मौजूद नहीं है।
Compute पर नियंत्रण कैसे हो सकता है
कुछ विशेषज्ञों का मानना है कि frontier AI को सीमित करने के लिए उन computing resources पर नजर रखनी होगी, जिनसे बड़े मॉडल train किए जाते हैं। सबसे शक्तिशाली मॉडल vast data centers में हजारों advanced Nvidia GPUs की मदद से तैयार होते हैं।
US सरकार ने इस दिशा में पहले कदम उठाया है। 2023 के Biden-era AI executive order के तहत कंपनियों को एक तय compute threshold से ऊपर होने वाले training runs की जानकारी देनी थी।
2024 के एक policy white paper ने cloud providers को अहम बताया। इनके पास बड़े AI training runs से जुड़े billing records, GPU utilization, network traffic और power consumption की जानकारी हो सकती है। इन संकेतों का इस्तेमाल एआई capabilities का अनुमान लगाने के लिए किया जा सकता है।
चिप में बदलाव के प्रस्ताव भी सामने आए हैं। RAND के researchers ने 2024 में GPU के एक मौजूदा performance-measuring component को बदलने का विचार रखा। यह component compute runs का cryptographically secured record तैयार कर सकता है, जिसकी समय-समय पर जांच की जाए। इससे यह पता चल सकता है कि कोई कंपनी तय threshold से ऊपर एआई train कर रही है या नहीं।
एक अन्य विचार tamper-proof components का है। ऐसे हिस्से usage की विस्तृत जानकारी जमा कर सकते हैं और cryptography के जरिए कुछ मॉडल weights को चलाना अनिवार्य बना सकते हैं। कुछ विशेषज्ञ chips में embedded off switches लगाने की बात भी करते हैं। इनके जरिए remote cryptographic authorization के बिना कुछ मॉडल चलाना रोका जा सकता है या गलत हाथों में पहुंचने पर chips deactivate किए जा सकते हैं।
अंतरराष्ट्रीय समझौते की जरूरत
एआई development को नियंत्रित करने की कोशिश केवल एक देश तक सीमित नहीं रह सकती। China समेत कई देशों के पास frontier AI बनाने की क्षमता है। इसी वजह से विशेषज्ञों के बीच international cooperation को जरूरी माना जा रहा है।
Irving ने medium term में US और China के बीच hardware growth को आपसी treaty के जरिए सीमित करने का सुझाव दिया है। US ने पहले ही Nvidia के सबसे शक्तिशाली chips के China export पर रोक लगाई है, लेकिन इसका असर सीमित रहा है। कंपनियां विदेशों में उपलब्ध cloud compute का इस्तेमाल करके मॉडल train कर सकती हैं।
President Xi के इस महीने के अंत में US दौरे के दौरान दोनों देश एआई जोखिमों पर चर्चा कर सकते हैं। Chinese experts भी तेजी से बढ़ती एआई के जोखिमों को लेकर चिंतित हैं, लेकिन उन्हें ऐसे slowdown पर संदेह है जिससे Chinese companies अमेरिकी कंपनियों से पीछे रह जाएं।
Toby Ord ने इससे भी ज्यादा कठोर विकल्प पर विचार किया है। उनके अनुसार, यदि देश एआई development सीमित करने पर सहमत हों और जोखिम बेहद गंभीर माना जाए, तो बड़े देश GPUs को किसी neutral territory में ले जाकर नष्ट करने पर विचार कर सकते हैं। यह कदम तभी संभव होगा जब दोनों देश एआई development पूरी तरह रोकने पर सहमत हों।
RSI progress को track करने की कोशिश
Recursive self-improvement की गति पर नजर रखने के लिए नए benchmarks भी बनाए जा रहे हैं। Vals AI नाम के startup ने RSI Index विकसित किया है। यह public AI models के प्रदर्शन की तुलना human AI scientists द्वारा प्रकाशित research से करता है।
Vals AI के cofounder और CEO Rayan Krishnan का कहना है कि benchmark के संकेत बताते हैं कि अगले साल के भीतर एआई ऐसा काम कर सकता है, जिसे एआई researchers follow नहीं कर पाएंगे। यह आकलन इस बात को रेखांकित करता है कि development की निगरानी केवल hardware या company declarations से नहीं हो सकती।
फिर भी, नियंत्रण लागू करने की जल्दबाजी अपने साथ अलग जोखिम ला सकती है। Douglas और उनके सहलेखकों की रिपोर्ट चेतावनी देती है कि गलत controls राजनीति में फंस सकते हैं या regulatory capture का शिकार बन सकते हैं। Douglas के मुताबिक, बिना पूरी तैयारी के US government से सब कुछ बंद करने को कहना, खराब योजना के साथ आगे बढ़ने से भी ज्यादा नुकसानदेह हो सकता है।
निष्कर्ष
एआई slowdown के लिए independent inspections, compute tracking, chip-based controls और international treaties जैसे विकल्प मौजूद हैं, लेकिन इनमें से किसी को भी भरोसेमंद और व्यापक समाधान नहीं माना जा सकता। आगे की दिशा तय करने से पहले technical research, स्वतंत्र expertise और देशों के बीच coordination की जरूरत होगी।
अक्सर पूछे जाने वाले सवाल
Q. एआई slowdown लागू करना मुश्किल क्यों है?
क्योंकि कंपनियों की सहमति के बावजूद यह जांचना कठिन है कि कोई संगठन छिपकर development तो नहीं कर रहा।
Q. Independent evaluators क्या करेंगे?
वे एआई मॉडल की capabilities जांचेंगे और trusted environments में red-team tests करेंगे।
Q. Compute tracking का मतलब क्या है?
इसमें training runs से जुड़े billing, GPU, network और power data से एआई development पर नजर रखने की कोशिश की जाती है।
Q. क्या chips के जरिए एआई को नियंत्रित किया जा सकता है?
कुछ प्रस्तावों में usage records, cryptographic authorization और remote off switches वाले components शामिल हैं।
Q. International treaty की जरूरत क्यों बताई जा रही है?
क्योंकि frontier AI बनाने की क्षमता कई देशों के पास है और केवल एक देश की रोक पर्याप्त नहीं होगी।
Q. RSI Index क्या track करता है?
यह public AI models के प्रदर्शन की तुलना human AI scientists की published research से करता है।
