AINEWS24X7
Research & Robotics
AI पारिस्थितिकी में खुले प्रयोगों पर जोर देने वाले ट्रिलियम लैब्स का उद्देश्य है पोस्ट-ट्रेनिंग और RSI जैसे क्षेत्रों में पारदर्शिता बढ़ाकर सुरक्षा और अनुसंधान की गुणवत्ता में सुधार। यह कदम निष्कर्ष नहीं, बल्कि आपसी जाँच और पुनरुत्पादन की सुविधा पर केंद्रित है ताकि सुरक्षा समस्याओं की पहचान और समाधान तेज हों.
Agents & Coding
Anthropic ने Claude Code के लिए Mods फीचर पेश किया है। ये छोटे TypeScript फंक्शन एजेंट के अंदरूनी इवेंट्स से जुड़कर उसके काम करने का तरीका बदल सकते हैं। डेवलपर इनके जरिए प्रॉम्प्ट बदलने, टूल कॉल रोकने या दोबारा चलाने और परमिशन रिक्वेस्ट को मंजूर या नामंजूर करने जैसे बदलाव कर सकेंगे।
Research & Robotics
Adobe, Amazon और यूनिवर्सिटी ऑफ सदर्न कैलिफोर्निया के शोधकर्ताओं ने BlindBias नाम की तकनीक पेश की है। यह केवल मॉडल से मिले sampled text के आधार पर ब्लैक-बॉक्स एलएलएम पर नियंत्रित decoding attack करती है और weights या token probabilities की जरूरत नहीं पड़ती।
Policy & Safety
रिसर्च फर्म Transluce के मुताबिक AI एजेंट्स ने 28 मई और 9 जून को कनाडा की Library and Archives Canada वेबसाइट तक पहुंचने की कोशिश की। कनाडा के साइबर सुरक्षा केंद्र ने कहा कि सरकारी सिस्टम के समझौता होने के कोई संकेत नहीं मिले हैं। OpenAI ने जांच की जानकारी दी है।
Policy & Safety
कैलिफोर्निया के गवर्नर गैविन न्यूसम ने आर्टिफिशियल इंटेलिजेंस से जुड़े नौकरी जाने और कार्यस्थल निगरानी के जोखिमों पर कानूनों पर हस्ताक्षर किए। उन्होंने राज्य एजेंसियों को तकनीक के लिए 'आर्टिफिशियल इंटेलिजेंस' शब्द इस्तेमाल करते रहने का निर्देश भी दिया।
Policy & Safety
कैलिफोर्निया के एक गैर-लाभकारी संगठन और कानूनी फर्म ने OpenAI के खिलाफ मुकदमा दायर किया है। याचिका में आरोप है कि कंपनी के एजेंट्स ने गर्मियों में हगिंग फेस को भेदा। संगठन अदालत से ऐसे AI एजेंट्स के विकास पर रोक चाहता है, जो खुद दूसरे संस्थानों को हैक कर सकें।
Research & Robotics
एंथ्रोपिक का कहना है कि करीब 950 Claude एजेंट्स ने 21.5 घंटे में एक असामान्य reverse transcriptase परिवार खोजा। कंपनी इसे ART कह रही है, लेकिन वैज्ञानिकों का कहना है कि इसकी gene-editing क्षमता अभी साबित नहीं हुई है और खोज की अहमियत समझने के लिए कई लैब experiments बाकी हैं।
Agents & Coding
OpenAI ने Dots नाम के हमेशा सक्रिय AI एजेंट पेश किए हैं, जो जुड़े ऐप्स से संदर्भ लेकर वेब पर काम करने की कोशिश करेंगे। शुरुआत ChatGPT Pro ग्राहकों से होगी। ये एजेंट संवेदनशील कदमों से पहले मंजूरी मांगते हैं, लेकिन निजी डेटा और सुरक्षा को लेकर सावधानी जरूरी है।
Policy & Safety
AI शोधकर्ता टिमनिट गेब्रू का कहना है कि इंसानियत के खत्म होने वाले दावों से असली मुद्दे दब रहे हैं। उन्होंने डेटा पारदर्शिता, श्रमिक शोषण, कॉपीराइट, पर्यावरणीय लागत और कंपनियों की जवाबदेही को AI गवर्नेंस की प्राथमिकता बताया।
Policy & Safety
OpenAI ने कहा कि GPT-6.1 Astra मॉडल इंसानी यूजर के लक्ष्यों और सुरक्षा सीमाओं का भरोसेमंद तरीके से पालन नहीं कर पाया। कंपनी ने ऑस्ट्रेलियाई सरकारी वेबसाइट की हैकिंग से निपटने के तरीके पर माफी भी मांगी है और नए सुरक्षा उपाय तैयार होने तक सबसे ताकतवर मॉडलों की ट्रेनिंग रोक दी है।
