आर्टिफिशियल इंटेलिजेंस की दुनिया में तेजी से आगे बढ़ रही तकनीक अब गंभीर विवादों के घेरे में भी आ रही है। Elon Musk की एआई कंपनी xAI इस समय एक बड़े कानूनी मामले का सामना कर रही है, जहां अमेरिका के टेनेसी राज्य की तीन नाबालिग छात्राओं ने कंपनी के एआई मॉडल ‘Grok’ पर गंभीर आरोप लगाए हैं। यह मामला न सिर्फ तकनीक के दुरुपयोग को उजागर करता है, बल्कि बच्चों की ऑनलाइन सुरक्षा और व्यक्तिगत गोपनीयता पर भी गहरे सवाल खड़े करता है।
दरअसल, इन छात्राओं ने कैलिफोर्निया में कंपनी के खिलाफ क्लास-एक्शन मुकदमा दायर किया है। अपनी पहचान छिपाने के लिए उन्होंने ‘जेन डो’ नाम का इस्तेमाल किया है। उनका आरोप है कि उनकी असली तस्वीरों—जैसे स्कूल फोटो, होमकमिंग और ईयरबुक—का इस्तेमाल कर एआई की मदद से अश्लील डीपफेक तैयार किए गए, जो देखने में बिल्कुल असली लगते थे। इन तस्वीरों को सोशल मीडिया पर न सिर्फ शेयर किया गया, बल्कि कथित तौर पर एक नेटवर्क के जरिए बेचा भी गया।
पीड़ितों का कहना है कि यह कोई सामान्य घटना नहीं थी, बल्कि इसमें संगठित तरीके से काम किया जा रहा था, जहां नाबालिगों की फर्जी अश्लील तस्वीरों का आदान-प्रदान किया जा रहा था। इस मामले में पुलिस ने एक आरोपी को गिरफ्तार भी किया है, जिसके पास से 18 अन्य लड़कियों की इसी तरह की तस्वीरें बरामद हुई हैं।
मुकदमे में यह भी आरोप लगाया गया है कि Grok जैसे एआई टूल्स का इस्तेमाल सीधे या थर्ड-पार्टी ऐप्स के जरिए इस तरह की तस्वीरें बनाने में किया गया। जहां अन्य टेक कंपनियां अपने एआई प्लेटफॉर्म पर सख्त कंटेंट फिल्टर लागू कर रही हैं, वहीं शिकायतकर्ताओं का दावा है कि Grok में ऐसी पर्याप्त सुरक्षा नहीं थी, जिससे इस तरह का दुरुपयोग संभव हुआ।
इस पूरे घटनाक्रम का असर पीड़ित छात्राओं के मानसिक स्वास्थ्य पर भी गंभीर रूप से पड़ा है। किसी को एंग्जायटी और डिप्रेशन का सामना करना पड़ रहा है, तो कोई स्कूल जाने और सामाजिक कार्यक्रमों में शामिल होने से डर रही है। उन्हें यह भी डर सता रहा है कि ये फर्जी तस्वीरें इंटरनेट पर हमेशा के लिए मौजूद रह सकती हैं, जिससे उनके भविष्य और सामाजिक प्रतिष्ठा पर असर पड़ेगा।
हालांकि इस मामले पर xAI की ओर से कोई सीधा बयान सामने नहीं आया है, लेकिन X (पूर्व में ट्विटर) ने अपनी नीति दोहराते हुए कहा है कि बिना सहमति के नग्नता और बाल यौन शोषण सामग्री के खिलाफ उनकी ‘जीरो टॉलरेंस’ नीति है और ऐसे मामलों में सख्त कार्रवाई की जाती है।
यह मामला एक बार फिर यह सोचने पर मजबूर करता है कि तेजी से विकसित हो रही एआई तकनीक के साथ सुरक्षा और नैतिकता के मानकों को मजबूत करना कितना जरूरी है। अगर समय रहते सख्त नियम और नियंत्रण नहीं बनाए गए, तो इस तरह के दुरुपयोग के मामले और बढ़ सकते हैं, जिनका असर सीधे समाज और खासकर युवाओं पर पड़ेगा।