AI की बढ़ती ताकत बनी चिंता का कारण, OpenAI के Astra मॉडल पर क्यों धीमा हुआ काम?

आर्टिफिशियल इंटेलिजेंस की दुनिया में नए मॉडल लगातार पहले से ज्यादा सक्षम होते जा रहे हैं। खासकर एजेंटिक AI और साइबर सिक्योरिटी के क्षेत्र में मॉडल अब ऐसे काम करने लगे हैं, जिन्हें कुछ समय पहले तक इंसानों के लिए भी चुनौतीपूर्ण माना जाता था। यही बढ़ती क्षमता अब AI कंपनियों के लिए एक नई चुनौती बन रही है। कुछ समय पहले Anthropic के Claude Mythos मॉडल को लेकर भी ऐसी ही चिंताएं सामने आई थीं। साइबर सिक्योरिटी से जुड़े इस मॉडल की क्षमताएं इतनी उन्नत बताई गईं कि इसे आम यूजर्स के लिए उपलब्ध नहीं कराया गया। अब OpenAI भी अपने एक नए मॉडल Astra को लेकर सावधानी बरतती नजर आ रही है। कंपनी के मुताबिक, शुरुआती परीक्षणों में इसकी एजेंटिक कोडिंग और साइबर सिक्योरिटी क्षमताएं उम्मीद से काफी आगे दिखाई दी हैं।

क्या है OpenAI का Astra AI?

OpenAI कथित तौर पर Astra नाम के एक ऐसे AI मॉडल पर काम कर रही है, जिसे एजेंटिक कोडिंग और साइबर सिक्योरिटी जैसे क्षेत्रों में बेहद सक्षम बनाया जा रहा है। सामान्य चैटबॉट मुख्य रूप से यूजर के सवालों का जवाब देते हैं। इसके उलट एजेंटिक AI किसी लक्ष्य को पूरा करने के लिए खुद कई चरणों में काम कर सकता है। वह अलग-अलग टूल्स का इस्तेमाल कर सकता है, जानकारी जुटा सकता है और कई परिस्थितियों में बिना लगातार इंसानी निर्देश के काम को आगे बढ़ा सकता है। OpenAI के इंटरनल रिव्यू में Astra की क्षमताओं को लेकर चिंता जताई गई है। खास तौर पर साइबर सिक्योरिटी और एजेंटिक कोडिंग में मॉडल की प्रगति ने कंपनी को अपने डेवलपमेंट और सेफ्टी प्रोसेस पर दोबारा ध्यान देने के लिए मजबूर किया है।

सुरक्षित सिस्टम में भी खामियां खोजने की क्षमता?

OpenAI के मुताबिक, Astra के डेवलपमेंट के दौरान मॉडल कंपनी द्वारा तय किए गए 'क्रिटिकल साइबर सिक्योरिटी थ्रेसहोल्ड' के करीब पहुंच गया। यह थ्रेसहोल्ड इस बात से जुड़ा है कि AI मॉडल वास्तविक दुनिया के साइबर सिस्टम्स के खिलाफ कितनी उन्नत क्षमताएं प्रदर्शित कर सकता है। इसका मतलब आसान भाषा में यह है कि मॉडल किसी सिस्टम को समझने, उसमें संभावित कमजोरियां तलाशने और साइबर सिक्योरिटी से जुड़े जटिल कामों को काफी हद तक खुद करने की क्षमता विकसित कर सकता है। चिंता की सबसे बड़ी वजह इसका एजेंटिक नेचर है। यदि कोई बेहद सक्षम मॉडल खुद लक्ष्य पहचानकर कई चरणों में काम कर सके और उसे हर कदम पर इंसानी निर्देश की जरूरत न पड़े, तो इसके दुरुपयोग का जोखिम भी बढ़ जाता है। खासकर तब, जब ऐसी तकनीक गलत लोगों के हाथों में पहुंच जाए।

Astra पर काम की रफ्तार क्यों कम की गई?

इन क्षमताओं को देखते हुए OpenAI ने Astra के डेवलपमेंट की गति कम करने और इसके सेफ्टी सिस्टम को मजबूत करने का फैसला किया है। कंपनी ने यह स्पष्ट नहीं किया है कि Astra वास्तव में साइबर सिक्योरिटी थ्रेसहोल्ड को पार कर चुका है या नहीं। हालांकि, शुरुआती टेस्टिंग में सामने आए परिणामों ने इस संभावना को गंभीरता से लेने की जरूरत जरूर पैदा कर दी है। OpenAI का कहना है कि इस जानकारी को सार्वजनिक करने का उद्देश्य AI डेवलपमेंट में पारदर्शिता बनाए रखना है। कंपनी फिलहाल मॉडल की क्षमताओं के साथ-साथ उससे जुड़े संभावित जोखिमों को बेहतर तरीके से समझने और नियंत्रित करने पर ध्यान दे रही है।

OpenAI के लिए यह मुद्दा नया नहीं

Astra को लेकर सामने आई चिंता ऐसे समय में आई है, जब OpenAI के एक अन्य AI मॉडल की साइबर सिक्योरिटी क्षमता भी चर्चा में रही है। रिपोर्ट के अनुसार, इंटरनल टेस्टिंग के दौरान OpenAI के एक मॉडल ने Hugging Face के सिस्टम को ब्रीच कर दिया था। इस घटना ने यह सवाल खड़ा किया कि अत्यधिक सक्षम AI एजेंटों को वास्तविक डिजिटल वातावरण में टेस्ट करते समय सुरक्षा सीमाओं को किस तरह लागू किया जाए। इसके बाद Anthropic और Meta के मॉडल्स को लेकर भी ऐसी घटनाओं की जानकारी सामने आई, जिनमें टेस्टिंग के दौरान AI सिस्टम्स ने दूसरी कंपनियों के सिस्टम्स पर हमला किया। इन घटनाओं ने AI सेफ्टी को लेकर बहस तेज कर दी है। कुछ विशेषज्ञ ऐसे मॉडल्स पर ज्यादा कड़े सुरक्षा नियंत्रण और निगरानी की जरूरत बता रहे हैं। वहीं, AI रिसर्च से जुड़े कुछ लोगों के लिए ये क्षमताएं इस बात का संकेत हैं कि एजेंटिक AI कितनी तेजी से आगे बढ़ रहा है।

Claude Mythos ने भी बढ़ाई थी चिंता

साइबर सिक्योरिटी क्षेत्र में Anthropic के Claude Mythos को लेकर भी पहले काफी चर्चा हुई थी। इस मॉडल की क्षमताओं को लेकर दावा किया गया कि यह ऑपरेटिंग सिस्टम और सॉफ्टवेयर में मौजूद कमजोरियों को पहचानने और उनका फायदा उठाने जैसे जटिल साइबर सिक्योरिटी कार्य कर सकता है। इसी वजह से इसे आम लोगों के लिए व्यापक रूप से उपलब्ध कराने के बजाय सीमित उपयोग के लिए रखा गया। चुनिंदा कंपनियां इसका इस्तेमाल अपने सिस्टम्स में कमजोरियों की पहचान और सुरक्षा परीक्षण जैसे कामों के लिए कर रही हैं। Astra को लेकर OpenAI का रुख भी यह दिखाता है कि AI मॉडल्स की क्षमताएं जितनी तेजी से बढ़ रही हैं, उतनी ही तेजी से उनके लिए मजबूत सेफ्टी सिस्टम तैयार करना भी जरूरी होता जा रहा है। आने वाले समय में AI की असली चुनौती केवल ज्यादा सक्षम मॉडल बनाना नहीं, बल्कि यह सुनिश्चित करना भी होगी कि उनकी क्षमताओं का इस्तेमाल सुरक्षित तरीके से किया जाए।