टेक डेस्क। आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI अपने चैटबॉट ChatGPT में सुरक्षा व्यवस्था को और सख्त करने की तैयारी कर रही है। रिपोर्ट के मुताबिक, नए नियमों के तहत खासकर किशोरों को हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी व्यावहारिक जानकारी नहीं दी जाएगी, जिसका गलत इस्तेमाल किया जा सकता है। सवाल सामान्य दिखाई देने पर भी संवेदनशील जानकारी साझा करने पर प्रतिबंध लागू हो सकता है।
कंपनी का उद्देश्य एआई के दुरुपयोग को रोकना और किशोरों समेत दूसरे यूजर्स की सुरक्षा को मजबूत करना है। इसके साथ ही हिंसा से जुड़ी लगातार बातचीत और गंभीर सुरक्षा जोखिमों से निपटने के लिए भी नए उपाय लागू किए जाने की बात कही गई है।
हिंसक बातचीत पर ChatGPT कर सकता है कार्रवाई
रिपोर्ट के अनुसार, OpenAI ऐसे सुरक्षा उपाय लागू करने जा रही है, जिनके तहत लगातार हिंसा या किसी को नुकसान पहुंचाने पर केंद्रित बातचीत को रोका जा सकेगा।
यदि कोई यूजर बातचीत के दौरान बार-बार हिंसक गतिविधियों से जुड़ी बातें करता है, तो ChatGPT उस चैट सेशन को बंद कर सकता है। बार-बार नियमों का उल्लंघन करने वाले यूजर्स के अकाउंट पर अस्थायी प्रतिबंध लगाने जैसे कदम भी उठाए जा सकते हैं।
हालांकि, इन नियमों का वास्तविक दायरा और इनके लागू होने की शर्तें कंपनी की आधिकारिक घोषणा से स्पष्ट होना जरूरी है।
पुराने हमलों और हथियारों से जुड़ी संवेदनशील जानकारी पर सख्ती
नए सुरक्षा उपायों के तहत ऐतिहासिक जनसंहारों और बड़े हमलों से जुड़ी जानकारी देने के तरीके में भी बदलाव किए जाने की बात सामने आई है।
ऐतिहासिक घटनाओं के बारे में सामान्य जानकारी और उनके प्रभावों पर चर्चा की जा सकती है, लेकिन हमलों में इस्तेमाल किए गए हथियारों को हासिल करने, उनके इस्तेमाल की विस्तृत प्रक्रिया या ऐसी संवेदनशील जानकारी तक पहुंच सीमित की जा सकती है, जिसका उपयोग किसी हिंसक गतिविधि को अंजाम देने में हो सकता है।
इसका उद्देश्य इतिहास की जानकारी पर पूरी तरह रोक लगाना नहीं, बल्कि ऐसी व्यावहारिक जानकारियों के दुरुपयोग को रोकना है जो किसी की सुरक्षा के लिए खतरा बन सकती हैं।
अगले कुछ हफ्तों में शुरू हो सकता है रोलआउट
रिपोर्ट के मुताबिक, OpenAI नए सुरक्षा फीचर्स को चरणबद्ध तरीके से लागू करने की तैयारी कर रही है। कंपनी इन उपायों की प्रभावशीलता का आकलन करने के बाद जरूरत के अनुसार बदलाव भी कर सकती है।
इन सुविधाओं के लागू होने का समय, अलग-अलग आयु वर्गों पर इनके प्रभाव और अकाउंट संबंधी कार्रवाई की शर्तों को लेकर आधिकारिक जानकारी पर नजर रखना जरूरी होगा।
किशोरों के ChatGPT इस्तेमाल पर भी नजर
OpenAI ने किशोरों द्वारा ChatGPT के इस्तेमाल को लेकर अपनी रिपोर्ट में बताया था कि टीनएज यूजर्स औसतन प्रतिदिन 15 मिनट से भी कम समय इस प्लेटफॉर्म पर बिताते हैं।
हालांकि, इस्तेमाल का औसत समय कम होने के बावजूद कंपनी के सामने यह चुनौती है कि किशोरों को एआई से बातचीत करते समय सुरक्षित अनुभव मिले। खासकर मानसिक स्वास्थ्य, खुद को नुकसान पहुंचाने और हिंसा जैसे संवेदनशील विषयों पर अतिरिक्त सावधानी जरूरी मानी जा रही है।
पैरेंट्स को अलर्ट देने की व्यवस्था पर भी सवाल
एआई प्लेटफॉर्म पर बच्चों की सुरक्षा को लेकर दुनियाभर में चर्चा तेज हो रही है। इसी बीच गैर-लाभकारी संस्था Common Sense Media की एक रिपोर्ट में किशोरों से जुड़ी संवेदनशील बातचीत के दौरान अभिभावकों को अलर्ट देने की व्यवस्था पर सवाल उठाए गए थे।
रिपोर्ट के मुताबिक, कुछ मामलों में आत्महत्या, खुद को नुकसान पहुंचाने या ईटिंग डिसऑर्डर जैसे गंभीर विषयों पर बातचीत के दौरान माता-पिता को समय पर सूचना मिलने में कमी देखी गई।
ऐसे मामलों ने एआई कंपनियों के सामने यह सवाल खड़ा किया है कि किशोरों की निजता का सम्मान करते हुए उनकी सुरक्षा कैसे सुनिश्चित की जाए और गंभीर जोखिम की स्थिति में अभिभावकों को किस तरह सूचित किया जाए।
कुल मिलाकर, ChatGPT में प्रस्तावित सुरक्षा बदलाव एआई के जिम्मेदार इस्तेमाल और किशोरों की ऑनलाइन सुरक्षा पर बढ़ते जोर को दर्शाते हैं। हालांकि, नए प्रतिबंधों, अकाउंट पर कार्रवाई और पैरेंट्स को अलर्ट देने से संबंधित नियमों की अंतिम स्थिति के लिए OpenAI की आधिकारिक जानकारी की पुष्टि जरूरी है।