मेटा ला रही है नया AI सेफ्टी फीचर, आत्महत्या से जुड़े संकेत मिलने पर पैरेंट्स को ऐसे मिलेगा अलर्ट

मेटा अपने AI चैटबॉट की सुरक्षा को और मजबूत बनाने की दिशा में एक नया फीचर पेश करने जा रही है। इस फीचर का उद्देश्य किशोर (टीन) यूजर्स की सुरक्षा बढ़ाना है। यदि कोई टीन यूजर मेटा AI के साथ बातचीत के दौरान आत्महत्या या खुद को नुकसान पहुंचाने जैसी गंभीर बातें करता है, तो सिस्टम उसके माता-पिता को इसकी जानकारी देगा। फिलहाल यह सुविधा अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा में उन परिवारों के लिए शुरू की गई है, जो इंस्टाग्राम के Parental Supervision टूल का उपयोग कर रहे हैं। कंपनी का कहना है कि वर्ष के अंत तक इसे भारत सहित अन्य देशों में भी उपलब्ध कराया जाएगा।

नया फीचर कैसे करेगा काम?

मेटा ने इसके लिए एक विशेष AI मॉनिटरिंग सिस्टम तैयार किया है। जब कोई टीन यूजर बातचीत के दौरान आत्महत्या या सेल्फ-हार्म से जुड़े संकेत देता है, तो AI सबसे पहले उस बातचीत की पहचान करेगा। इसके बाद संबंधित चैट का मैनुअल रिव्यू किया जाएगा। समीक्षा पूर होने के बाद, यदि जरूरत महसूस होती है, तो पैरेंट्स को अलर्ट भेजा जाएगा। कंपनी ने स्पष्ट किया है कि केवल AI के आधार पर नोटिफिकेशन नहीं भेजा जाएगा। किसी भी अलर्ट से पहले इंसानी समीक्षा की जाएगी। मेटा का यह भी कहना है कि यदि बातचीत में जोखिम पूरी तरह स्पष्ट न भी हो, तब भी सावधानी के तौर पर पैरेंट्स को सूचना भेजी जा सकती है। ऐसे में कुछ मामलों में वास्तविक खतरा न होने पर भी अलर्ट मिलने की संभावना रहेगी।

सेफ्टी फीचर्स पर लगातार काम

मेटा पिछले कुछ समय से अपने प्लेटफॉर्म्स पर सुरक्षा से जुड़े फीचर्स को लगातार मजबूत कर रही है। इंस्टाग्राम पर पहले से ही ऐसा सिस्टम मौजूद है, जो यह पहचान सकता है कि कोई टीन यूजर बार-बार आत्महत्या या सेल्फ-हार्म से जुड़े विषयों की खोज कर रहा है। ऐसी स्थिति में माता-पिता को नोटिफिकेशन भेजा जाता है। इसके अलावा पैरेंट्स यह भी देख सकते हैं कि उनके बच्चे मेटा AI से किन विषयों पर बातचीत कर रहे हैं। हालांकि, उनकी निजी चैट या पूरी बातचीत देखने की अनुमति नहीं दी जाती, जिससे यूजर की प्राइवेसी भी बनी रहती है।

Meta AI में भी मिलेगा अतिरिक्त सुरक्षा कवच

कंपनी इंस्टाग्राम के Limited Content फीचर को अब Meta AI में भी शामिल करने की तैयारी कर रही है। इस फीचर के जरिए किशोर यूजर्स के लिए संवेदनशील या अनुपयुक्त कंटेंट की पहुंच सीमित की जाएगी। मेटा भविष्य में कुछ और सुरक्षा उपायों पर भी काम कर रही है। इनमें ऐसी व्यवस्था शामिल हो सकती है, जिसमें किसी यूजर के गंभीर खतरे में होने की आशंका मिलने पर स्थानीय इमरजेंसी सर्विस या संबंधित एजेंसियों को भी सूचना दी जा सके। कंपनी का मानना है कि इस तरह के कदम संकट की स्थिति में समय रहते मदद पहुंचाने में सहायक हो सकते हैं।