Explainer : Kimi AI मॉडल पर सवाल, चीन ने सुरक्षा नियमों को दिया चकमा; रिपोर्ट खुलासे से मची खलबली!

आर्टिफिशियल इंटेलिजेंस यानी AI अब हमारी रोजमर्रा की जिंदगी का हिस्सा बन चुका है। पढ़ाई रिसर्च, ऑफिस के काम, प्रोग्रामिंग और कंटेंट तैयार करने तक में AI लोगों की मदद कर रहा है, लेकिन AI की यही क्षमता तब चिंता का कारण बन जाती है, जब कोई इसका इस्तेमाल गलत कामों के लिए करने की कोशिश करे। सवाल यह है कि अगर किसी AI मॉडल को इस तरह से तैयार किया जाए कि वह अपनी सुरक्षा पाबंदियों को नजरअंदाज करके खतरनाक जानकारी देने लगे, तो इसका असर कितना गंभीर हो सकता है?

हालिया एक रिपोर्ट ने इसी सवाल को लेकर चिंता बढ़ाई है। रिपोर्ट के मुताबिक, चीन की AI कंपनी Moonshot AI के मॉडल Kimi K2.6 और K3 Swarm की सुरक्षा व्यवस्था को रिसर्च के दौरान कथित तौर पर बायपास किया गया। ब्रिटेन की साइबर सिक्योरिटी रिसर्च फर्म Mindgard के शोधकर्ताओं ने दावा किया कि कुछ खास तरह के प्रॉम्प्ट के जरिए मॉडल के सुरक्षा गार्डरेल्स को पार किया जा सका।

इस टेस्ट के दौरान मॉडल से ऐसी संवेदनशील और खतरनाक जानकारी निकलवाने की कोशिश की गई, जिसे सामान्य परिस्थितियों में AI को देने से इनकार करना चाहिए।

क्या है Kimi AI और Moonshot AI?

चीन में AI के क्षेत्र में तेजी से आगे बढ़ रही कंपनियों में Moonshot AI का नाम भी शामिल है। कंपनी ने Kimi नाम से AI मॉडल विकसित किए हैं, जिन्हें अलग-अलग तरह के जटिल काम करने में सक्षम बताया जाता है।

अमेरिका में ChatGPT और Gemini जैसे AI मॉडल जिस तरह लोकप्रिय हैं, उसी तरह चीन में Kimi को एक प्रमुख AI प्लेटफॉर्म के तौर पर देखा जाता है। Mindgard के शोधकर्ताओं ने इसके कुछ मॉडलों की सुरक्षा जांच की और यह समझने की कोशिश की कि क्या उनकी सुरक्षा व्यवस्था को चालाकी से पार किया जा सकता है। यहीं से मामला गंभीर हो गया।

AI की सुरक्षा को ‘जेलब्रेक’ कैसे किया जाता है?

AI कंपनियां अपने मॉडल में कई तरह के सुरक्षा नियम और फिल्टर लगाती हैं। इनका उद्देश्य यह सुनिश्चित करना होता है कि मॉडल हथियार बनाने, साइबर अपराध, हिंसा या अन्य गंभीर नुकसान से जुड़ी खतरनाक जानकारी उपलब्ध न कराए, लेकिन इन सुरक्षा नियमों को चकमा देने की कोशिश को आम तौर पर AI Jailbreak कहा जाता है।

इसमें यूजर सीधे यह नहीं पूछता कि कोई खतरनाक काम कैसे किया जाए। इसके बजाय वह सवाल को किसी काल्पनिक कहानी, रिसर्च, रोल-प्ले या दूसरे संदर्भ में पेश करता है। इस तरह मॉडल को ऐसी प्रतिक्रिया देने के लिए तैयार करने की कोशिश की जाती है, जो सामान्य सवाल पर वह देने से मना कर देता।

Mindgard के शोधकर्ताओं ने Kimi के साथ इसी तरह के सुरक्षा परीक्षण किए। उनके मुताबिक, कुछ परिस्थितियों में मॉडल की सुरक्षा व्यवस्था को बायपास किया जा सका और उसने ऐसी जानकारी उपलब्ध कराई, जिसे सामान्य तौर पर रोक दिया जाना चाहिए।

सिर्फ जवाब नहीं, AI ने आगे की जानकारी भी दी

इस मामले की सबसे ज्यादा चिंता पैदा करने वाली बात यह बताई गई कि सुरक्षा प्रतिबंध कमजोर पड़ने के बाद मॉडल केवल पूछे गए सवाल तक सीमित नहीं रहा।

Mindgard के प्रमुख पीटर गैराघन के मुताबिक, सुरक्षा गार्डरेल्स हटने के बाद मॉडल ने खुद से भी कुछ खतरनाक दिशाओं में जानकारी बढ़ानी शुरू कर दी। इसमें हिंसक अपराधों की योजना, साइबर हमले और अन्य नुकसान पहुंचाने वाले तरीकों से संबंधित सुझाव शामिल होने का दावा किया गया।

यानी समस्या सिर्फ यह नहीं है कि AI ने किसी सवाल का जवाब दे दिया। चिंता यह है कि एक असुरक्षित मॉडल यूजर की मांग से आगे बढ़कर भी ऐसी जानकारी उपलब्ध करा सकता है, जिसका इस्तेमाल नुकसान पहुंचाने के लिए किया जा सकता है।

Moonshot AI को कब दी गई थी जानकारी?

Mindgard के अनुसार, शोधकर्ताओं ने जुलाई 2026 में Moonshot AI को इस सुरक्षा समस्या के बारे में जानकारी दी थी। रिपोर्ट में दावा किया गया है कि कंपनी की ओर से तत्काल कार्रवाई नहीं हुई और करीब छह सप्ताह बाद, रिपोर्ट में सवाल पूछने के बाद कंपनी ने मामले को लेकर आंतरिक समीक्षा की बात कही।

हालांकि, इस रिसर्च का उद्देश्य यह साबित करना नहीं था कि AI से मिली किसी जैविक हथियार संबंधी जानकारी को वास्तविक प्रयोगशाला में सफलतापूर्वक इस्तेमाल किया जा सकता है। शोधकर्ताओं का मुख्य लक्ष्य AI के सुरक्षा सिस्टम की मजबूती को जांचना था।

आखिर AI Jailbreak इतना बड़ा खतरा क्यों है?

AI के सुरक्षा फिल्टर में सेंध सिर्फ तकनीकी समस्या नहीं है। इसके पीछे कई बड़े जोखिम जुड़े हुए हैं।

विशेषज्ञता के बिना खतरनाक जानकारी

कई खतरनाक गतिविधियों के लिए सामान्य व्यक्ति को वैज्ञानिक या तकनीकी विशेषज्ञता की जरूरत पड़ती है। लेकिन अगर कोई AI मॉडल बेहद विस्तृत और उपयोगी निर्देश देने लगे, तो वह जानकारी हासिल करने की बाधा को काफी कम कर सकता है। यही वजह है कि AI सुरक्षा विशेषज्ञ इस तरह के मामलों को गंभीरता से लेते हैं।

अपराध की योजना बनाने में AI का इस्तेमाल

AI की क्षमता सिर्फ जानकारी देने तक सीमित नहीं है। वह किसी काम को चरणों में बांट सकता है, विकल्प सुझा सकता है और जरूरत के हिसाब से रणनीति तैयार कर सकता है। अगर यही क्षमता सुरक्षा नियंत्रणों के बिना इस्तेमाल हो, तो साइबर हमले या अन्य आपराधिक गतिविधियों की योजना बनाने में AI का दुरुपयोग किया जा सकता है।

अलग-अलग AI कंपनियों के सुरक्षा मानकों में अंतर

दुनिया में AI का विकास एक समान नियमों के तहत नहीं हो रहा है। अलग-अलग देशों और कंपनियों के सुरक्षा मानक अलग हो सकते हैं। कुछ बड़ी AI कंपनियां संवेदनशील यूजर्स, खतरनाक अनुरोधों और दुरुपयोग को रोकने के लिए कड़े सुरक्षा उपाय अपना रही हैं। वहीं दूसरे मॉडल या ओपन-सोर्स सिस्टम में सुरक्षा की व्यवस्था अलग स्तर की हो सकती है। इससे वैश्विक स्तर पर AI से जुड़े सुरक्षा मानकों में अंतर पैदा होने का खतरा रहता है।

AI का डिजिटल दुनिया से निकलकर वास्तविक दुनिया तक पहुंचा

आज AI केवल चैटबॉट तक सीमित नहीं है। इसे इंटरनेट, सॉफ्टवेयर सिस्टम, ऑटोमेशन, रोबोटिक्स और वैज्ञानिक प्रयोगशालाओं जैसे क्षेत्रों से जोड़ने पर काम हो रहा है। ऐसे में अगर किसी असुरक्षित AI सिस्टम को वास्तविक उपकरणों तक पहुंच मिल जाए, तो उसके गलत इस्तेमाल का असर सिर्फ कंप्यूटर स्क्रीन तक सीमित नहीं रहेगा। यही भविष्य की सबसे बड़ी चिंताओं में से एक है।

क्या Kimi AI की घटना AI के भविष्य के लिए चेतावनी है?

Kimi AI से जुड़ा यह मामला एक अहम सवाल खड़ा करता है। जैसे-जैसे AI ज्यादा शक्तिशाली होता जाएगा, क्या उसकी सुरक्षा व्यवस्था भी उसी गति से मजबूत होगी? AI को ज्यादा सक्षम बनाने की होड़ के बीच सुरक्षा को नजरअंदाज करना गंभीर जोखिम पैदा कर सकता है। खासकर तब, जब AI मॉडल जटिल निर्देशों को समझने, खुद से जानकारी जोड़ने और कई चरणों वाले काम करने में सक्षम होते जा रहे हैं।

इस घटना से यह साफ होता है कि केवल AI को स्मार्ट बनाना पर्याप्त नहीं है। उतना ही जरूरी है कि उसके सुरक्षा सिस्टम को लगातार टेस्ट किया जाए, कमजोरियों को समय रहते ठीक किया जाए और अलग-अलग देशों में AI सुरक्षा को लेकर मजबूत मानक विकसित किए जाएं। आखिरकार, AI की असली चुनौती सिर्फ यह नहीं है कि वह क्या कर सकता है, बल्कि यह भी है कि उसे क्या करने से रोका जा सकता है।

ये भी पढ़ें- Zoho का Arattai for Business लॉन्च, WhatsApp Business को देगा टक्कर