AI शोधकर्ता टिमनिट गेब्रू ने इंसानियत के लिए कृत्रिम बुद्धिमत्ता (Artificial Intelligence) के 'अस्तित्वगत खतरे' वाली बहस को खारिज करते हुए इसे खतरनाक ध्यान भटकाव बताया है। उनका कहना है कि इस नैरेटिव से AI के मौजूदा और सीधे असर डालने वाले नुकसान पर चर्चा कमजोर पड़ती है।

गेब्रू ने कहा कि AI कंपनियों के संस्थापक, निवेशक और उन्हें वित्तीय समर्थन देने वाले लोग एक ओर इन तकनीकों को दुनिया बदलने वाली ताकत बताते हैं, वहीं दूसरी ओर संभावित विनाश की चेतावनी भी देते हैं। उनके मुताबिक, इस दोहरे संदेश से निवेशकों, सरकारों और नियामकों पर असर पड़ता है।

गेब्रू के मुताबिक असली मुद्दे क्या हैं

गेब्रू का तर्क है कि अगर बहस पूरी मानवता के खत्म होने जैसे काल्पनिक परिदृश्यों पर केंद्रित हो जाए, तो प्रदूषण, डेटा सेंटरों की लागत, कॉपीराइट और मौजूदा कानूनी जिम्मेदारियां छोटे मुद्दे लगने लगती हैं। उन्होंने कहा कि कंपनियां इसी तरह के नैरेटिव के जरिए अपने उत्पादों को बेहद शक्तिशाली और खास दिखा सकती हैं।

उन्होंने AI गवर्नेंस (AI Governance) के लिए कुछ सीधे उपायों पर जोर दिया। इनमें भ्रामक मार्केटिंग पर कार्रवाई, डेटा के स्रोत और इस्तेमाल का दस्तावेजीकरण, डेटा श्रमिकों के शोषण से सुरक्षा और लोगों का डेटा चुराने पर रोक शामिल है। उनका कहना है कि इन नियमों से कंपनियों को अपने सिस्टम के लिए जवाबदेह बनाया जा सकता है।

गेब्रू ने यह भी कहा कि AI कंपनियां सार्वजनिक मंचों पर वैश्विक सहयोग की बात करती हैं, लेकिन जब वास्तविक नियम उनके काम पर लागू होते हैं, तो वे उनका विरोध कर सकती हैं, बाहर निकलने की धमकी दे सकती हैं या उन्हें कमजोर करने के लिए लॉबिंग कर सकती हैं। उन्होंने इस व्यवहार को नियामकीय कब्जे (Regulatory Capture) से जोड़ा।

'स्टोकेस्टिक पैरट्स' शोध का बचाव

गेब्रू ने 2021 में सहलेखित शोधपत्र 'On the Dangers of Stochastic Parrots' का बचाव किया। 'स्टोकेस्टिक पैरट्स' एक रूपक है, जिसका इस्तेमाल बड़े भाषा मॉडल यह समझाने के लिए किया जाता है कि बड़े पैमाने पर टेक्स्ट डेटा से प्रशिक्षित सिस्टम अपने प्रशिक्षण डेटा के आधार पर संभावित शब्द-क्रम बनाते हैं।

उनके अनुसार, ऐसे मॉडल भाषा की नकल कर सकते हैं, लेकिन इससे यह साबित नहीं होता कि वे टेक्स्ट को इंसानों की तरह समझते हैं। उन्होंने कहा कि धाराप्रवाह और भरोसेमंद लगने वाला उत्तर लोगों को मशीन पर जरूरत से ज्यादा भरोसा करने के लिए प्रेरित कर सकता है। इसे ऑटोमेशन बायस (Automation Bias) कहा जाता है।

गेब्रू ने शोधपत्र में उठाए गए कुछ पुराने सवालों को आज भी प्रासंगिक बताया। इनमें पर्यावरणीय लागत, प्रशिक्षण डेटा का दस्तावेजीकरण न होना और मशीन के आउटपुट के पीछे किसी समझदार दिमाग का भ्रम पैदा होना शामिल है। उन्होंने एक ऐसे उदाहरण का जिक्र किया, जिसमें एक अनुवाद गलत अर्थ दे सकता है और भाषा की शुद्धता के कारण उपयोगकर्ता गलती पहचान नहीं पाता।

उन्होंने AI सिस्टम से जुड़े मेडिकल जोखिमों का भी उल्लेख किया। उनके मुताबिक, कोई सिस्टम आत्मविश्वास से गलत जानकारी दे सकता है और उपयोगकर्ता उसके उत्तर को सही मान सकता है। उन्होंने AI Overview से दवा के इस्तेमाल से जुड़ी गलत जानकारी मिलने का उदाहरण भी साझा किया।

'रीजनिंग' और 'सुपरइंटेलिजेंस' पर सवाल

गेब्रू ने उन दावों पर भी आपत्ति जताई कि मौजूदा AI सिस्टम वास्तव में सोचते या तर्क करते हैं। उनका कहना है कि AI से जुड़े कई नाम और शब्द भविष्य की महत्वाकांक्षाओं को दर्शाते हैं, जरूरी नहीं कि तकनीक में वह क्षमता सचमुच मौजूद हो।

उन्होंने कहा कि बड़े भाषा मॉडल की बुनियादी प्रकृति नहीं बदली है। भले ही उन्हें दूसरे सिस्टम या रीइन्फोर्समेंट लर्निंग एजेंट्स के साथ जोड़ा जाए, इससे बड़े भाषा मॉडल की मूल परिभाषा नहीं बदलती।

गेब्रू के मुताबिक, मौजूदा बहस में AI की क्षमताओं को बढ़ा-चढ़ाकर पेश करने का जोखिम है। उनके अनुसार, असली समस्या यह है कि लोग ऐसे सिस्टम पर पर्याप्त जांच और संतुलन के बिना भरोसा कर रहे हैं।

पहले भी AI के नुकसान पर उठा चुकी हैं सवाल

गेब्रू तब सार्वजनिक चर्चा के केंद्र में आई थीं, जब उन्होंने Google के साथ सहलेखित शोधपत्र को लेकर विवाद के बाद कंपनी छोड़ी। उस शोध में AI सिस्टम में मौजूद पक्षपात और बड़े भाषा मॉडलों से जुड़े जोखिमों पर सवाल उठाए गए थे। बाद में उन्होंने तकनीक से होने वाले नुकसान की जांच और निष्पक्ष तकनीकी उपकरणों के समर्थन के लिए एक संस्थान शुरू किया।

उनकी नई किताब 'Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist' भी चर्चा में है।

AI के अस्तित्वगत खतरे की बहस में शामिल कुछ लोग उनके पुराने 'स्टोकेस्टिक पैरट्स' शोध को पुराना और आज के सिस्टम के लिए कम प्रासंगिक बताते हैं। गेब्रू ने इस आलोचना को खारिज किया और कहा कि बड़े भाषा मॉडल की मूल कार्यप्रणाली को लेकर शोधपत्र का केंद्रीय तर्क अब भी लागू है।

निष्कर्ष

गेब्रू की आपत्ति AI के जोखिमों पर चर्चा से नहीं, बल्कि जोखिमों की प्राथमिकता और भाषा से है। उनका जोर तत्काल लागू होने वाले नियमों, पारदर्शिता, डेटा अधिकारों और कंपनियों की जवाबदेही पर है।

अक्सर पूछे जाने वाले सवाल

Q. टिमनिट गेब्रू AI के अस्तित्वगत खतरे पर क्या कहती हैं?

गेब्रू इसे खतरनाक ध्यान भटकाव मानती हैं। उनके अनुसार, इससे AI के मौजूदा नुकसान और जवाबदेही से जुड़े मुद्दे पीछे छूट जाते हैं।

Q. 'स्टोकेस्टिक पैरट्स' का मतलब क्या है?

यह बड़े भाषा मॉडलों के लिए इस्तेमाल किया गया रूपक है। इसका आशय है कि मॉडल प्रशिक्षण डेटा के आधार पर संभावित टेक्स्ट बनाते हैं, जरूरी नहीं कि वे उसे इंसानों की तरह समझते हों।

Q. गेब्रू AI गवर्नेंस में किन उपायों की बात करती हैं?

उन्होंने भ्रामक मार्केटिंग पर कार्रवाई, डेटा पारदर्शिता, दस्तावेजीकरण और डेटा श्रमिकों के शोषण से सुरक्षा पर जोर दिया है।

Q. AI सिस्टम पर ज्यादा भरोसा करने का क्या जोखिम है?

गेब्रू के अनुसार, धाराप्रवाह लेकिन गलत उत्तर उपयोगकर्ताओं को मशीन के आउटपुट पर जरूरत से ज्यादा भरोसा करा सकते हैं। इससे गलत अनुवाद या मेडिकल गलतियों का जोखिम बढ़ सकता है।

Q. गेब्रू के अनुसार AI कंपनियों की बड़ी समस्या क्या है?

उनका कहना है कि कंपनियां AI को बेहद शक्तिशाली बताती हैं, लेकिन वास्तविक नियम लागू होने पर उनका विरोध या उन्हें कमजोर करने की कोशिश कर सकती हैं।