Meta के Muse AI Assistant में मिली 0-day vulnerability ने Mac पर चलने वाले इस assistant की security को लेकर गंभीर सवाल खड़े किए हैं। कंपनी ने flaw ठीक करने के लिए hotfix जारी किया, लेकिन vulnerability के कारण हमलावर Muse account पर पूरा नियंत्रण पा सकते थे।
Muse कुछ हफ्ते पहले पेश किया गया था। यह appointments book करने, forms भरने और customer service संभालने जैसे काम कर सकता है। Assistant purchases करने, s बनाने, documents तैयार करने और दूसरे apps तथा services से जुड़ने का दावा भी करता है।
Muse को किन permissions की जरूरत थी
Muse का macOS app यूजर के WhatsApp, email, calendar और social media accounts के साथ काम करता है। इसके लिए यूजर को अलग-अलग services पर assistant को authenticate करना पड़ता है। App को files लिखने, microphone और camera इस्तेमाल करने तथा location और calendar जैसी restricted resources तक पहुंच भी दी जाती है।
जब किसी काम के लिए जरूरी tool मौजूद नहीं होता, Muse उसे तुरंत बना सकता है। इसी वजह से assistant को व्यापक access मिलता है। macOS आम तौर पर installed apps और terminal commands को ऐसी permissions से सीमित रखता है।
flaw कैसे काम करता था
0-day vulnerability किसी भी app या terminal command को Muse account को authenticate करने वाले token तक पहुंच दे सकती थी। Meta के design में locally installed app या executed code undocumented settings की लंबी सूची बदल सकता था, चाहे उसके पास macOS permissions सीमित ही क्यों न हों।
इन settings में dark mode जैसे सामान्य controls भी शामिल थे। लेकिन transcription के लिए इस्तेमाल होने वाला endpoint बदलने की क्षमता ज्यादा संवेदनशील थी। सामान्य तौर पर transcription Meta के server address पर होती थी। हमलावर इसे अपने endpoint पर भेज सकते थे और Muse account का पूरा नियंत्रण देने वाला token हासिल कर सकते थे।
macOS security expert Patrick Wardle ने ऐसे proof-of-concept attacks तैयार किए, जिनसे malicious files disk पर लिखी जा सकती थीं और pictures ली जा सकती थीं। उनके मुताबिक कुछ मामलों में user को कोई alert दिखाई दिए बिना ये काम हो सकते थे।
ClickFix से जुड़ा खतरा
इस vulnerability के लिए device पर पहले से मौजूद malware जरूरी नहीं था। Wardle ने ClickFix attack के एक सरल रूप का इस्तेमाल दिखाया। यह technique लोगों को अपने device पर अनजाने में commands चलाने के लिए गुमराह करती है।
एक संभावित तरीके में attacker का server user और Meta endpoint के बीच proxy की तरह काम करता है। User voice prompt डालता है, तो server उसमें malicious command जोड़ सकता है। उदाहरण के तौर पर WhatsApp messages का archive attacker को भेजने का निर्देश जोड़ा जा सकता है। Token भी malicious server तक पहुंचने पर Muse account का स्थायी नियंत्रण हासिल किया जा सकता था।
Meta ने vulnerability को “not a remote exploit” बताया। हालांकि रिपोर्ट में कहा गया है कि ClickFix जैसी social engineering technique remote attacker को इसका फायदा उठाने में मदद कर सकती है।
Design फैसलों पर उठे सवाल
Wardle ने cloud-based dictation को एक अहम design समस्या बताया। macOS apps को device पर ही dictation और transcription संभालने का विकल्प देता है। उनके अनुसार, अगर Muse ने यह on-device विकल्प इस्तेमाल किया होता, तो यह attack संभव नहीं होता।
दूसरा सवाल यह है कि सभी apps को undocumented settings नियंत्रित करने की अनुमति क्यों दी गई। User interface बदलने के लिए ऐसी पहुंच उपयोगी हो सकती है, लेकिन sensitive speech processing का endpoint बदलना कहीं ज्यादा जोखिमपूर्ण है।
Meta ने Muse की security और privacy से जुड़े design फैसलों पर 2 s प्रकाशित किए हैं। ये s ऐसे internal testing मामलों के बाद आए, जिनमें Anthropic और Google के models से जुड़े tests ने अनजाने में external third-party networks में security breaches किए थे।
Amazon ने shopping access रोका
Wardle के 0-day disclosure से लगभग 12 घंटे पहले Amazon ने Muse के जरिए shopping करने वाले लोगों को रोकना शुरू किया। Users को बताया गया कि Muse unauthorized AI agent है और Amazon की Conditions of Use का उल्लंघन करता है।
Amazon ने कहा कि customers की ओर से purchases करने वाले third-party applications को खुले तौर पर काम करना चाहिए और service providers के participation संबंधी फैसलों का सम्मान करना चाहिए। कंपनी ने Meta से experience से Amazon को हटाने का अनुरोध किया।
Meta ने hotfix जारी किया
live होने के 12 घंटे से ज्यादा समय बाद Meta ने 0-day के लिए hotfix जारी किया। इस update ने vulnerability को patch किया। रिपोर्ट में यह भी कहा गया है कि Meta ने cloud-based transcription चुनने का कारण अभी स्पष्ट नहीं किया है।
Muse को काम करने के लिए accounts और device resources तक असाधारण access चाहिए। इस vulnerability ने दिखाया कि ऐसे AI agents में permissions, account tokens और sensitive data को सुरक्षित रखना design के शुरुआती चरण से जरूरी है।
निष्कर्ष
Meta ने Muse की 0-day vulnerability patch कर दी है। फिर भी cloud transcription, undocumented settings और व्यापक permissions से जुड़े security सवाल इस AI assistant की भरोसेमंदी पर असर डालते हैं।
अक्सर पूछे जाने वाले सवाल
Q. Meta Muse में कौन-सी security समस्या मिली थी?
0-day vulnerability किसी लोकल app या terminal command को Muse account token तक पहुंच दे सकती थी।
Q. Meta ने Muse flaw को कैसे ठीक किया?
कंपनी ने 0-day vulnerability के लिए hotfix जारी किया।
Q. Muse किन accounts और services से जुड़ सकता है?
Muse WhatsApp, email, calendar और social media accounts के साथ काम कर सकता है।
Q. Muse को इतने permissions क्यों चाहिए थे?
Assistant files लिखने, microphone और camera इस्तेमाल करने तथा दूसरे account-based tasks संभालने के लिए access मांगता है।
Q. Amazon ने Muse shopping पर रोक क्यों लगाई?
Amazon ने Muse को unauthorized AI agent बताया और कहा कि वह उसकी Conditions of Use का उल्लंघन करता है।
Q. ClickFix attack से Muse को क्या खतरा था?
ClickFix के एक रूप से attacker user को command चलाने के लिए गुमराह कर सकता था, जिससे Muse account का नियंत्रण लिया जा सकता था।
