सोशल मीडिया की दिग्गज कंपनी Meta ने किशोरों की ऑनलाइन सुरक्षा को लेकर एक अहम कदम उठाया है। मेटा ने तय किया है कि वह अपने प्लेटफॉर्म्स—Instagram, Facebook और Messenger—पर 18 साल से कम उम्र के यूजर्स के लिए ‘AI कैरेक्टर्स’ फीचर को अस्थायी रूप से बंद करेगा। यह रोक न सिर्फ उम्र के आधार पर पहचाने गए टीन्स पर लागू होगी, बल्कि उन यूजर्स पर भी, जिन्हें मेटा की एज प्रिडिक्शन टेक्नोलॉजी किशोर मानती है, भले ही उन्होंने अपनी उम्र कुछ और बताई हो।
कंपनी के मुताबिक, यह फैसला फिलहाल अस्थायी है और तब तक लागू रहेगा, जब तक किशोरों के लिए एक नया और ज्यादा सुरक्षित AI अनुभव तैयार नहीं हो जाता। इस दौरान टीन्स मेटा के अलग-अलग व्यक्तित्व वाले कस्टम AI चैटबॉट्स का इस्तेमाल नहीं कर पाएंगे। हालांकि, वे सामान्य Meta AI Assistant का उपयोग कर सकेंगे, लेकिन उसमें भी उम्र के अनुसार सख्त सेफ्टी गार्ड्स लगाए जाएंगे, ताकि किसी तरह का संवेदनशील या नुकसानदेह कंटेंट बच्चों तक न पहुंचे।
मेटा ने साफ किया है कि इस बदलाव का एक बड़ा मकसद माता-पिता को ज्यादा नियंत्रण देना है। आने वाले अपडेट्स में पैरेंट्स यह देख सकेंगे कि उनके बच्चे AI से किस तरह की बातचीत कर रहे हैं और जरूरत पड़ने पर उस पर निगरानी रख सकेंगे। कंपनी का कहना है कि जब AI कैरेक्टर्स दोबारा उपलब्ध कराए जाएंगे, तब पैरेंटल कंट्रोल पहले से ज्यादा मजबूत और पारदर्शी होगा।
यह फैसला ऐसे समय पर आया है, जब मेटा को TikTok और YouTube के साथ अमेरिका के लॉस एंजिल्स में एक बड़े मुकदमे का सामना करना है। इन कंपनियों पर आरोप है कि उनके प्लेटफॉर्म बच्चों और किशोरों के मानसिक स्वास्थ्य को नुकसान पहुंचा रहे हैं। रिपोर्ट्स के अनुसार, मेटा ने अदालत से यह भी अनुरोध किया है कि सोशल मीडिया और युवाओं के मानसिक स्वास्थ्य से जुड़े कुछ रिसर्च और Mark Zuckerberg के हार्वर्ड के दिनों से जुड़े संदर्भों को मुकदमे से बाहर रखा जाए।
दिलचस्प बात यह है कि बच्चों की ऑनलाइन सुरक्षा को लेकर सिर्फ मेटा ही नहीं, बल्कि दूसरी टेक कंपनियां भी सख्त कदम उठा रही हैं। OpenAI ने हाल ही में बच्चों को संवेदनशील कंटेंट से बचाने के लिए एज प्रिडिक्शन टेक्नोलॉजी लागू की है। वहीं Character.AI ने 18 साल से कम उम्र के यूजर्स के लिए अपने चैटबॉट्स पर प्रतिबंध लगा दिया है, खासकर उस मामले के बाद, जब एक 14 वर्षीय बच्चे की आत्महत्या के लिए चैटबॉट इंटरैक्शन को जिम्मेदार ठहराते हुए मुकदमा दायर किया गया था।
कुल मिलाकर, मेटा का यह कदम साफ संकेत देता है कि AI और सोशल मीडिया के बढ़ते प्रभाव के बीच अब कंपनियों पर बच्चों और किशोरों की मानसिक सुरक्षा को प्राथमिकता देने का दबाव लगातार बढ़ रहा है।