नई दिल्ली: सोशल मीडिया प्लेटफॉर्म Meta पर डीपफेक, भ्रामक और आपत्तिजनक कंटेंट को लेकर केंद्र सरकार ने सख्त रुख अपनाया है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने कंपनी को अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने और ऐसे कंटेंट के प्रसार को रोकने के लिए जरूरी तकनीकी बदलाव करने के निर्देश दिए हैं।
मीडिया रिपोर्ट्स के अनुसार, मंत्रालय ने Meta से एक विस्तृत रोडमैप भी मांगा है। इसमें कंपनी को यह बताना होगा कि उसके प्लेटफॉर्म पर डीपफेक, प्रोपेगैंडा, मॉर्फ्ड तस्वीरों और गैरकानूनी सामग्री की पहुंच को सीमित करने के लिए कौन-कौन से कदम उठाए जाएंगे।
यह मामला IT मंत्रालय के वरिष्ठ अधिकारियों और Meta के प्रतिनिधियों के बीच हुई उच्चस्तरीय बैठक में सामने आया। इस दौरान कंपनी की तकनीकी टीम ने ऑनलाइन नुकसानदायक सामग्री से निपटने के लिए इस्तेमाल किए जा रहे मौजूदा सिस्टम और भविष्य की योजनाओं का प्रेजेंटेशन भी दिया।
सरकार ने Meta को दिए ये 3 बड़े निर्देश
1. रिकमेंडेशन एल्गोरिदम में बदलाव
सरकार ने Meta से कहा है कि वह अपने रिकमेंडेशन सिस्टम में आवश्यक बदलाव करे, ताकि डीपफेक, मॉर्फ्ड इमेज, प्रोपेगैंडा और अन्य मैनिपुलेटेड कंटेंट को ज्यादा लोगों तक पहुंचने से रोका जा सके।
खास तौर पर ऐसे कंटेंट की ऑर्गेनिक रीच और वायरल होने की क्षमता को कम करने पर जोर दिया गया है।
2. डेटा लोकलाइजेशन नियमों का पालन
कंपनी को भारत में लागू डेटा लोकलाइजेशन से जुड़े नियमों का पूरी तरह पालन करने के निर्देश भी दिए गए हैं। सरकार ने स्पष्ट किया है कि भारतीय कानून और नियामकीय प्रावधानों का अनुपालन सुनिश्चित करना Meta की जिम्मेदारी है।
3. सरकारी एजेंसियों के फ्लैग किए कंटेंट पर तेज कार्रवाई
अधिकृत सरकारी एजेंसियों द्वारा किसी कंटेंट को फ्लैग किए जाने के बाद उसे रिव्यू और हटाने की प्रक्रिया को और तेज करने के लिए कहा गया है।
सरकार का उद्देश्य यह है कि अवैध या गंभीर रूप से आपत्तिजनक कंटेंट लंबे समय तक प्लेटफॉर्म पर उपलब्ध न रहे और उसके वायरल होने की संभावना को कम किया जा सके।
सरकारी विभागों की QRT टीमों के साथ तालमेल बढ़ाएगा Meta
बैठक में Meta को केंद्र सरकार के अलग-अलग विभागों की Quick Response Teams (QRTs) के साथ बेहतर समन्वय स्थापित करने के लिए भी कहा गया।
इस व्यवस्था का उद्देश्य डीपफेक वीडियो, एडिट की गई तस्वीरों और भ्रामक सूचनाओं की पहचान में तेजी लाना है। सरकार चाहती है कि ऐसे मामलों में संबंधित एजेंसियों और सोशल मीडिया प्लेटफॉर्म के बीच सूचना साझा करने और कार्रवाई की प्रक्रिया ज्यादा प्रभावी हो।
इससे फर्जी और नुकसानदायक सामग्री के तेजी से प्रसार पर लगाम लगाने में मदद मिलने की उम्मीद है।
Meta ने सिस्टम में कमियां होने की बात मानी
सरकारी सूत्रों के हवाले से सामने आई जानकारी के मुताबिक, बैठक के दौरान Meta ने अपने सिस्टम से जुड़ी कुछ कमियों को स्वीकार किया।
चर्चा में खास तौर पर कंपनी के रिकमेंडेशन एल्गोरिदम में मौजूद गैप्स और भारत के कानूनों के अनुपालन से जुड़े मुद्दों पर बातचीत हुई। सरकार ने ऐसे सिस्टम तैयार करने पर जोर दिया, जो भारतीय परिस्थितियों और नियामकीय आवश्यकताओं के अनुरूप काम कर सकें।
भारत में रुककर काम करेगी Meta की ग्लोबल टेक्निकल टीम
मामले के तकनीकी पहलुओं पर आगे चर्चा के लिए Meta की ग्लोबल टेक्निकल टीम भारत में रुककर सरकार के साथ बातचीत करेगी।
आने वाले दिनों में IT मंत्रालय और Meta के अधिकारियों के बीच कई और बैठकें होने की संभावना है। इन बैठकों में कंटेंट मॉडरेशन, एल्गोरिदम, AI से तैयार सामग्री और भारतीय कानूनों के अनुपालन जैसे मुद्दों पर चर्चा आगे बढ़ेगी।
AI से तैयार फर्जी कंटेंट पर सरकार की नजर
सरकार ने आर्टिफिशियल इंटेलिजेंस के इस्तेमाल से तैयार किए जा रहे फर्जी और भ्रामक कंटेंट को लेकर चिंता जताई है।
सरकार का कहना है कि सोशल मीडिया प्लेटफॉर्म्स को केवल शिकायत मिलने के बाद कार्रवाई करने के बजाय अपने स्तर पर भी प्रभावी टेक्निकल सेफगार्ड्स विकसित करने होंगे। AI-जनरेटेड और मैनिपुलेटेड कंटेंट की पहचान, निगरानी और रोकथाम के लिए प्लेटफॉर्म्स को अपनी तकनीकी क्षमता मजबूत करनी होगी।
पीएम मोदी की पोस्ट हटने के मामले में भी Meta ने मांगी माफी
यह घटनाक्रम उस विवाद के बाद सामने आया है, जिसमें प्रधानमंत्री नरेंद्र मोदी का एक फेसबुक पोस्ट हटाए जाने को लेकर Meta सवालों के घेरे में आया था।
रिपोर्ट्स के मुताबिक, Meta के CEO मार्क जुकरबर्ग ने इस मामले में भारत सरकार से माफी मांगी। कंपनी ने कथित तौर पर अपने प्लेटफॉर्म पर चाइल्ड सेक्सुअल एब्यूज मैटेरियल, डीपफेक और कंटेंट मॉडरेशन से जुड़ी कुछ चूकों को भी स्वीकार किया।
Meta की ग्लोबल टीम ने ग्लोबल अफेयर्स चीफ जोएल कैपलन के नेतृत्व में केंद्रीय IT मंत्री अश्विनी वैष्णव और IT सचिव एस. कृष्णन से मुलाकात की थी।
यह बैठक पिछले महीने प्रधानमंत्री नरेंद्र मोदी की एक फेसबुक पोस्ट हटाए जाने के बाद सरकार की ओर से भेजे गए समन के सिलसिले में हुई थी।
पेपर लीक को लेकर था पीएम मोदी का वीडियो
बताया गया कि प्रधानमंत्री मोदी ने 23 जुलाई को फेसबुक पर एक वीडियो पोस्ट किया था। इसमें उन्होंने पेपर लीक को गंभीर समस्या बताते हुए ऐसे मामलों की जल्द सुनवाई के लिए फास्ट ट्रैक कोर्ट की जरूरत पर बात की थी।
इस पोस्ट के फेसबुक से हटाए जाने के मामले को लेकर सरकार ने Meta से जवाब मांगा था।
क्या होती हैं Quick Response Teams?
Quick Response Teams यानी QRTs ऐसी विशेषज्ञ टीमें होती हैं, जिन्हें ऑनलाइन अफवाह, फर्जी सूचना या किसी आपात डिजिटल स्थिति में तेजी से कार्रवाई के लिए तैयार किया जाता है।
इन टीमों का काम सोशल मीडिया पर प्रसारित होने वाली संदिग्ध या आपत्तिजनक सामग्री की निगरानी करना, उसकी जानकारी संबंधित अधिकारियों तक पहुंचाना और जरूरत पड़ने पर तत्काल कार्रवाई सुनिश्चित करना होता है।
सरकार अब ऐसी टीमों और सोशल मीडिया कंपनियों के बीच बेहतर तालमेल बनाकर डीपफेक और AI से तैयार भ्रामक कंटेंट के प्रसार को रोकने पर जोर दे रही है।