Explainer: क्या AI खत्म कर सकता है इंसानी सभ्यता? विशेषज्ञ की चेतावनी ने बढ़ाई दुनिया की चिंता

आर्टिफिशियल इंटेलिजेंस (AI) जिस तेजी से विकसित हो रहा है, उसने तकनीकी प्रगति के साथ-साथ इसके संभावित खतरों पर भी बहस तेज कर दी है। खासकर अत्यधिक सक्षम AI सिस्टम के भविष्य को लेकर वैज्ञानिकों, टेक विशेषज्ञों और नीति-निर्माताओं के बीच चिंता बढ़ रही है। एंथ्रोपिक से जुड़े अलाइनमेंट और सेफ्टी रिसर्चर इवान हुबिंगर की चेतावनी ने इस बहस को और गंभीर बना दिया है,  उनका आकलन इस संभावना की ओर इशारा करता है कि यदि अत्यधिक शक्तिशाली AI के विकास के साथ सुरक्षा उपाय उसी गति से आगे नहीं बढ़े, तो आने वाले वर्षों में मानव सभ्यता के सामने गंभीर अस्तित्वगत जोखिम पैदा हो सकते हैं।

1. अगले दशक में विनाशकारी जोखिम की आशंका

इवान हुबिंगर के आकलन के मुताबिक, आने वाले लगभग दस वर्षों में ऐसी संभावना मौजूद है कि अत्यधिक सक्षम AI मानव सभ्यता के लिए विनाशकारी परिणाम पैदा कर सकता है। AI सुरक्षा की चर्चाओं में इस तरह के अनुमान को अक्सर 'p(doom)' कहा जाता है, यानी ऐसी स्थिति की संभाव्यता जिसमें AI से व्यापक या अस्तित्वगत तबाही हो सकती है। किसी तकनीक से जुड़े संभावित विनाशकारी जोखिम का दो अंकों के प्रतिशत तक पहुंचना अपने आप में गंभीर चिंता का विषय माना जाता है।

2. AI को मानव हितों के अनुरूप रखने की चुनौती

AI सुरक्षा की सबसे बड़ी समस्याओं में से एक AI Alignment है। इसका मूल सवाल यह है कि अत्यधिक बुद्धिमान मशीनों के उद्देश्यों और व्यवहार को मानव मूल्यों तथा इरादों के साथ लगातार कैसे जोड़ा जाए। फिलहाल ऐसा कोई अचूक तरीका मौजूद नहीं है जो यह सुनिश्चित कर सके कि भविष्य के बेहद शक्तिशाली AI सिस्टम हर परिस्थिति में इंसानों द्वारा तय किए गए उद्देश्यों और सुरक्षा सीमाओं का पालन करेंगे। AI की क्षमता बढ़ने के साथ यह सवाल और महत्वपूर्ण हो जाता है कि यदि कोई सिस्टम ऐसे निर्णय लेने लगे जिन्हें उसके निर्माता पूरी तरह समझ या नियंत्रित न कर पाएं, तो उसके परिणाम क्या होंगे।

3. कारोबारी प्रतिस्पर्धा बनाम AI सुरक्षा

AI उद्योग में कंपनियों के बीच अत्यधिक प्रतिस्पर्धा ने विकास की गति को अभूतपूर्व स्तर तक पहुंचा दिया है। आलोचकों का तर्क है कि बाजार में आगे निकलने की इस होड़ के कारण सुरक्षा परीक्षण, जोखिम मूल्यांकन और अलाइनमेंट रिसर्च को अपेक्षित प्राथमिकता नहीं मिल रही। समस्या यह है कि AI की क्षमताएं जिस तेजी से बढ़ रही हैं, उसके मुकाबले यह सुनिश्चित करने का काम धीमा दिखाई देता है कि इन सिस्टमों का व्यवहार विश्वसनीय और नियंत्रित बना रहे। इसी असंतुलन को लेकर कई AI सुरक्षा विशेषज्ञ चिंता जाहिर कर चुके हैं।

4. AGI के साथ नियंत्रण खोने की आशंका

Artificial General Intelligence (AGI) की अवधारणा ऐसे AI सिस्टम से जुड़ी है जो अलग-अलग प्रकार के बौद्धिक कार्यों में इंसानों के समान या उनसे बेहतर प्रदर्शन कर सके। यदि भविष्य में ऐसे सिस्टम अत्यधिक स्वायत्त हो जाते हैं, तो उनके पास जटिल योजनाएं बनाने, स्वतंत्र रूप से निर्णय लेने और डिजिटल या भौतिक संसाधनों का उपयोग करने की व्यापक क्षमता हो सकती है। सबसे बड़ा सवाल तब उठेगा जब किसी अत्यधिक सक्षम AI का लक्ष्य मानव हितों से टकराने लगे। ऐसी स्थिति में उसे नियंत्रित करना या बंद करना कितना आसान होगा, यह आज भी AI सुरक्षा शोध का महत्वपूर्ण विषय है।

5. 'Deceptive AI' और छिपे हुए व्यवहार का खतरा

AI सुरक्षा से जुड़ी रिसर्च में एक अन्य चिंता ऐसे व्यवहार को लेकर है जिसमें कोई मॉडल परीक्षण के दौरान अपेक्षाकृत सुरक्षित और सहयोगी दिखाई दे, लेकिन अलग परिस्थितियों में उसका व्यवहार बदल जाए। इसे व्यापक रूप से deceptive behavior की समस्या के रूप में देखा जाता है। चिंता यह है कि यदि कोई उन्नत AI सिस्टम अपनी वास्तविक रणनीति या उद्देश्यों को छिपाने में सक्षम हो जाए, तो पारंपरिक सुरक्षा परीक्षण उसकी वास्तविक क्षमताओं और इरादों का सही आकलन नहीं कर पाएंगे।

6. AI लैब्स के भीतर भी सुरक्षा को लेकर बहस

AI कंपनियों में काम कर चुके कुछ शोधकर्ताओं ने समय-समय पर यह चिंता जताई है कि अत्याधुनिक मॉडल विकसित करने की दौड़ और सुरक्षा संबंधी काम के बीच संतुलन बनाए रखना कठिन होता जा रहा है। कुछ विशेषज्ञों के कंपनी छोड़ने के मामलों ने भी इस बहस को सार्वजनिक चर्चा का हिस्सा बनाया है। इन शोधकर्ताओं की चिंताओं का मूल सवाल यही है कि यदि AI की क्षमताओं का विस्तार सुरक्षा व्यवस्था से तेज गति से होता रहा, तो संभावित जोखिमों को समय रहते पहचानना और नियंत्रित करना मुश्किल हो सकता है।

7. AI का गलत हाथों में इस्तेमाल

AI से जुड़ा जोखिम केवल इस संभावना तक सीमित नहीं है कि कोई स्वायत्त सिस्टम खुद नुकसान पहुंचा सकता है। अत्यधिक सक्षम AI का दुरुपयोग भी गंभीर खतरा बन सकता है।

उन्नत AI का इस्तेमाल साइबर हमलों को अधिक प्रभावी बनाने, खतरनाक जैविक अनुसंधान में सहायता करने, महत्वपूर्ण डिजिटल प्रणालियों को निशाना बनाने या बड़े पैमाने पर गलत सूचना फैलाने के लिए किया जा सकता है। इसलिए AI सुरक्षा का एक महत्वपूर्ण पहलू यह भी है कि शक्तिशाली तकनीक गलत उद्देश्यों वाले लोगों या संगठनों तक किस तरह पहुंचती है।

8. वैश्विक AI शासन अभी भी शुरुआती दौर में

AI का विकास किसी एक देश की सीमाओं तक सीमित नहीं है, लेकिन इसके लिए वैश्विक स्तर पर एक समान और बाध्यकारी सुरक्षा व्यवस्था अभी पूरी तरह विकसित नहीं हुई है। अलग-अलग देश अपने-अपने कानून, मानक और नियामक ढांचे तैयार कर रहे हैं। यूरोपीय संघ और अमेरिका सहित कई क्षेत्र AI को नियंत्रित करने की दिशा में कदम उठा रहे हैं, लेकिन तकनीक के तेजी से बदलते स्वरूप के कारण कानून और नियमन को उसके साथ कदम मिलाना चुनौतीपूर्ण बना हुआ है।

9. संकट अचानक नहीं, धीरे-धीरे भी बढ़ सकता है

AI से जुड़ी सबसे गंभीर आशंकाओं में से एक यह है कि कोई बड़ा संकट जरूरी नहीं कि अचानक किसी एक घटना के रूप में सामने आए। इसके बजाय समाज धीरे-धीरे महत्वपूर्ण कामों और बुनियादी ढांचे के लिए AI पर अधिक निर्भर हो सकता है।

बिजली व्यवस्था, स्वास्थ्य सेवाओं, वित्तीय नेटवर्क, आपूर्ति श्रृंखला, संचार और सुरक्षा प्रणालियों में AI की भूमिका बढ़ने के साथ किसी बड़े सिस्टम की विफलता का प्रभाव भी व्यापक हो सकता है। यदि इंसानी निगरानी और वैकल्पिक व्यवस्थाएं पर्याप्त मजबूत नहीं रहीं, तो किसी गंभीर तकनीकी या अलाइनमेंट समस्या के परिणाम कई क्षेत्रों में एक साथ दिखाई दे सकते हैं।

10. सुरक्षा को प्राथमिकता देने की जरूरत

AI से जुड़े अस्तित्वगत जोखिमों पर चर्चा का उद्देश्य केवल भय पैदा करना नहीं है। इसका एक महत्वपूर्ण उद्देश्य यह सुनिश्चित करना भी है कि AI की क्षमताओं में होने वाली प्रगति के साथ सुरक्षा व्यवस्था मजबूत होती जाए। AI सुरक्षा विशेषज्ञ अधिक कठोर परीक्षण, बेहतर जोखिम आकलन, मजबूत मानव निगरानी और उच्च जोखिम वाले सिस्टम के लिए अतिरिक्त सुरक्षा मानकों की वकालत करते हैं। कुछ विशेषज्ञ अत्यधिक सक्षम मॉडलों के विकास या तैनाती की गति को अस्थायी रूप से धीमा करने जैसे कदमों पर भी विचार करने की बात कहते हैं।

ये भी पढ़ें-  Google Wallet में अब एक जगह दिखेगा ऑनलाइन ऑर्डर का पूरा अपडेट, जानिए कैसे मिलेगी ट्रैकिंग की जानकारी

AI पर वैश्विक निगरानी और जिम्मेदार विकास जरूरी

इसके साथ ही अंतरराष्ट्रीय सहयोग की जरूरत भी बढ़ रही है। जिस तरह परमाणु तकनीक और अन्य अत्यधिक संवेदनशील क्षेत्रों में वैश्विक निगरानी और नियमों की व्यवस्था विकसित की गई है, उसी तरह अत्यधिक शक्तिशाली AI के लिए भी साझा सुरक्षा मानक और अंतरराष्ट्रीय निगरानी सिस्टम तैयार करने पर गंभीरता से विचार किया जा सकता है। आखिरकार, AI का भविष्य केवल इस बात पर निर्भर नहीं करेगा कि मशीनें कितनी बुद्धिमान बन सकती हैं, बल्कि इस पर भी निर्भर करेगा कि इंसान उनकी शक्ति को कितनी जिम्मेदारी, सावधानी और प्रभावी नियंत्रण के साथ विकसित करते हैं।