ट्रिलियम लैब्स नामक एक गैर-लाभकारी संगठन नया कदम उठाने जा रहा है ताकि अत्याधुनिक AI अनुसंधान खुलकर किया जाए। संस्थापक Nathan Lambert और Tom Zick का कहना है कि फ्रंटियर AI labs अपने प्रयोगों को गुप्त रखते हैं, जिससे समुदाय की जाँच और नए तरीके सुझाने की क्षमता घटती है। लैब्स का इरादा ऐसी गतिविधियाँ साझा तरीके से करना है जिससे बाहरी वैज्ञानिक भी प्रयोगों को पढ़ और दोहर सकें।
Lambert बताते हैं कि सुदृढ़ नियंत्रण वाले मॉडल भी कैसे बनते हैं और कैसे ट्यून होते हैं, यह साझा करने से जोखिमों को समझना आसान होगा। उनका मानना है कि विज्ञान की परंपरा को खुली जाँच की अनुमति देकर भविष्य की सुरक्षा बेहतर हो सकती है। कई प्रमुख मॉडल जिन्हें OpenAI या Anthropic बनाते हैं, वे आम तौर पर केवल ऐप या API के जरिये पहुँच योग्य होते हैं, जिससे उनकी आंतरिक संरचना की स्पष्टता कम हो जाती है। इसी बीच चीन की कुछ कंपनियाँ डाउनलोडेबल मॉडल भी पेश कर रही हैं, जिससे उपयोगकर्ता खुद के हार्डवेयर पर प्रशिक्षण चला सकते हैं।
ट्रिलियम लैब्स पोस्ट-ट्रेनिंग पर केंद्रित होकर बड़े मॉडलों को बनाते समय वैकल्पिक शोध-रेखाओं पर भी काम करेगी। RSI (recursive self-improvement) जैसी विधियों पर भी नज़र रखने की योजना है ताकि AI मौजूदा क्षमताओं से आगे बढ़े; लेकिन इसे मानव नियंत्रण से बाहर जाने के जोखिम के संदर्भ में सावधानी से देखा जाएगा। इसके अलावा reinforcement learning के विकास पर भी प्रकाश डाला जाएगा ताकि मॉडलों के व्यवहार पर बाहरी scrutiny संभव हो। लैब के अनुसार यह समझना जरूरी है कि पोस्ट-ट्रेनिंग में नीतियों और विशेषताओं के पैमाने को कैसे मापा जाए और कैसे यह मॉडल की आचरण को आकार देता है।
कंपनी क्रमिक फंडिंग पर भी काम कर रही है और उसने Schmidt Sciences तथा Halcyon Futures जैसे समर्थकों से रकम की पुष्टि की है; कुल मिलाकर 40 से 100 मिलियन डॉलर जुटाने का लक्ष्य है और अगले 18 महीनों में प्रशिक्षण पर लगभग 30 मिलियन डॉलर खर्च करने की योजना है। IWORLD के नीति विश्लेषक Tim Fist के अनुसार पारदर्शिता में वृद्धि का विचार स्वागत योग्य है।
Lambert और Zick उम्मीद करते हैं कि ट्रिलियम लैब्स AI विकास के समालोचनात्मक आवाज़ों के बीच संतुलन बनाएगा और वैज्ञानिक पद्धति, हाल के घटनाक्रमों का सावधानीपूर्वक आकलन, तथा open models के प्रचलन को मजबूत करेगा। वे मानते हैं कि उद्योग- academia के बीच की दूरी कम करने से शोध की मजबूती बढ़ेगी और जोखिमों की समझ गहरी होगी।
