AI के बढ़ते इस्तेमाल के बीच एक बड़ा और अहम कदम उठाते हुए X ने अपने AI चैटबॉट Grok से असली लोगों की अश्लील या आपत्तिजनक तस्वीरें बनाने पर दुनियाभर में रोक लगा दी है। यह फैसला महिलाओं और बच्चों की तस्वीरों के बड़े पैमाने पर दुरुपयोग की शिकायतों के बाद लिया गया है। अब कोई भी यूजर—चाहे पेड हो या फ्री—ग्रोκ का इस्तेमाल करके किसी वास्तविक व्यक्ति की नग्न, अर्ध-नग्न या यौन संकेतों वाली इमेज जनरेट नहीं कर पाएगा।
X के सेफ्टी अकाउंट ने स्पष्ट किया है कि तकनीकी स्तर पर ऐसे बदलाव किए गए हैं, जिससे ग्रोक अब असली लोगों की बिना कपड़ों वाली या कम कपड़ों में दिखाई गई तस्वीरें नहीं बना सकेगा। इसमें बिकिनी, इनरवेयर या किसी भी तरह की सेक्शुअल एडिटिंग पूरी तरह प्रतिबंधित कर दी गई है। कंपनी का कहना है कि यह कदम यूजर्स की निजता की रक्षा और प्लेटफॉर्म पर उत्पीड़न को रोकने के लिए जरूरी था।
इस कार्रवाई की जड़ दिसंबर 2025 में सामने आई उन शिकायतों में है, जब कई महिलाओं ने आरोप लगाया था कि उनकी सामान्य तस्वीरों को ग्रोक AI के जरिए सेक्शुअल इमेज में बदला जा रहा है। इन मामलों के सामने आने के बाद भारत सरकार की IT मिनिस्ट्री की साइबर लॉ डिवीजन ने X को IT Rules 2021 के तहत तत्काल कार्रवाई और कंटेंट हटाने के निर्देश दिए थे। जांच में यह भी सामने आया कि कुछ यूजर फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट करते थे और फिर AI को ऐसे प्रॉम्प्ट देते थे, जिनसे तस्वीरों को आपत्तिजनक रूप दिया जाए—बिना किसी अनुमति के।
भारत में इस मुद्दे की गंभीरता का अंदाजा इसी से लगाया जा सकता है कि X ने अपनी एक्शन रिपोर्ट में बताया कि देश में ग्रोक के जरिए बनाई गई करीब 3,500 अश्लील तस्वीरों को हटाया गया। इसके साथ ही 600 से ज्यादा ऐसे यूजर्स को प्लेटफॉर्म से बैन किया गया, जो बार-बार इस AI टूल का गलत इस्तेमाल कर रहे थे।
इस पूरे विवाद के बीच Elon Musk का बयान भी चर्चा में रहा। मस्क ने पहले कहा था कि ग्रोक को दोष देना ऐसा है जैसे किसी गलत बात के लिए कलम को जिम्मेदार ठहराना। उनके मुताबिक, टूल अपने आप कुछ नहीं करता—वह वही देता है जो यूजर इनपुट करता है। हालांकि, बढ़ते दबाव और गंभीर शिकायतों के बाद अब X ने साफ संकेत दे दिया है कि AI टूल्स की आज़ादी के साथ-साथ प्लेटफॉर्म की जिम्मेदारी भी उतनी ही अहम है।
कुल मिलाकर, यह फैसला AI और डिजिटल प्लेटफॉर्म्स के लिए एक बड़ा मोड़ माना जा रहा है। यह न सिर्फ यूजर्स की निजता और सुरक्षा को प्राथमिकता देता है, बल्कि यह भी दिखाता है कि AI के गलत इस्तेमाल पर अब वैश्विक स्तर पर सख्ती की जा रही है।