एलन मस्क की कंपनी एक्स एक बार फिर विवाद के केंद्र में आ गई है, लेकिन इस बार वजह कोई नई टेक्नोलॉजी या बिज़नेस डील नहीं, बल्कि उसके आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok का खतरनाक दुरुपयोग है। हाल के दिनों में सामने आए मामलों ने यह साफ कर दिया कि तकनीक की आज़ादी अगर नियंत्रण से बाहर हो जाए, तो वह किसी के सम्मान और निजी जीवन पर सीधा हमला बन सकती है। Grok AI के ज़रिये सामान्य तस्वीरों को अश्लील और आपत्तिजनक रूप में बदलने की घटनाओं ने न सिर्फ सोशल मीडिया पर हंगामा मचाया, बल्कि कंपनी को भी बैकफुट पर ला दिया।
दरअसल, कई यूजर्स Grok AI का इस्तेमाल कर खासतौर पर महिलाओं की तस्वीरों को इस तरह एडिट कर रहे थे, जिससे वे भ्रामक और आपत्तिजनक दिखाई दें। ये तस्वीरें जब सोशल मीडिया पर वायरल हुईं, तो इससे संबंधित लोगों की निजता, गरिमा और मानसिक स्वास्थ्य पर गंभीर असर पड़ा। धीरे-धीरे पीड़ित महिलाओं ने खुलकर शिकायतें दर्ज करानी शुरू कीं, जिसके बाद एक्स की सेफ्टी और पॉलिसी टीम को मजबूरन सख्त कदम उठाने पड़े।
कंपनी ने साफ कर दिया है कि अब Grok AI के जरिए किसी भी वास्तविक व्यक्ति की ऐसी तस्वीरें नहीं बनाई जा सकेंगी, जिनमें उन्हें रिवीलिंग, छोटे या आपत्तिजनक कपड़ों में दिखाया गया हो। यह प्रतिबंध केवल सामान्य यूजर्स तक सीमित नहीं है, बल्कि एक्स के प्रीमियम सब्सक्रिप्शन लेने वालों पर भी पूरी तरह लागू होगा। यानी अब पैसे देकर सेवा लेने वाले यूजर्स को भी इस तरह के कंटेंट की छूट नहीं मिलेगी। एक्स का कहना है कि इस फैसले का मकसद महिलाओं और बच्चों के खिलाफ बढ़ते डिजिटल अपराधों पर रोक लगाना और प्लेटफॉर्म को ज्यादा सुरक्षित बनाना है।
कंपनी ने यह भी संकेत दिए हैं कि आगे चलकर ऐसे मामलों में जिम्मेदारी तय की जाएगी। अगर कोई यूजर नए नियमों का उल्लंघन करता पाया गया और Grok का इस्तेमाल आपत्तिजनक कंटेंट बनाने में करता है, तो उसके खिलाफ कड़ी कार्रवाई की जाएगी। एक्स ने दो टूक कहा है कि एआई टूल्स का इस्तेमाल सुविधा और रचनात्मकता के लिए है, न कि किसी की गरिमा से खिलवाड़ करने या कानून की सीमाएं तोड़ने के लिए।
इस पूरे विवाद में भारत सरकार की भूमिका भी बेहद अहम रही है। मामला सामने आने के बाद इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स से जवाब तलब किया और भारतीय कानूनों का उल्लंघन करने वाली सामग्री को तत्काल हटाने के निर्देश दिए। सरकार की सख्ती के बाद कंपनी को अपनी कार्रवाई की जानकारी ‘एक्शन टेकन रिपोर्ट’ के रूप में सौंपनी पड़ी। इसी दबाव के चलते एक्स ने Grok AI से जुड़े नियमों को और कड़ा किया।
यह मामला सिर्फ एक प्लेटफॉर्म या एक एआई टूल तक सीमित नहीं है, बल्कि उस बड़ी चुनौती की ओर इशारा करता है, जहां तकनीकी प्रगति के साथ नैतिक जिम्मेदारी और कानूनी निगरानी को भी उतना ही मजबूत बनाना जरूरी हो गया है। Grok AI पर लगी यह रोक एक साफ संकेत है कि आने वाले समय में एआई कंपनियों को अपने सिस्टम की निगरानी और उपयोग की सीमाएं और स्पष्ट करनी होंगी, ताकि तकनीक समाज के लिए खतरा नहीं, बल्कि मददगार साबित हो।