दो दिनों की कड़ी पूछताछ के बाद, सरकार ने शुक्रवार को मेटा के साथ डीपफेक, बच्चों के यौन शोषण से जुड़े कंटेंट (CSAM), बॉट अकाउंट और बिना लेबल वाले AI-जनरेटेड कंटेंट से जुड़ी चिंताओं पर तकनीकी चर्चा की।

PTI की एक रिपोर्ट के मुताबिक, सूत्रों ने बताया कि मेटा ने समझाया कि उसके सिस्टम कैसे काम करते हैं और सरकार की चिंताओं को दूर करने के लिए वह क्या उपाय लागू करने वाली है। अधिकारियों ने कंपनी से खास सुधारात्मक कदम उठाने और उनके असर के बारे में रिपोर्ट देने को कहा है, साथ ही नियमित फॉलो-अप की योजना भी बनाई गई है।

सरकार चाहती है बेहतर कंटेंट मॉडरेशन

एक मुख्य चिंता यह थी कि नुकसानदायक AI-जनरेटेड कंटेंट को फ्लैग किए जाने के बाद भी उसका लगातार सर्कुलेशन और तेज़ी से प्रसार हो रहा था। अधिकारियों ने यह भी सवाल किया कि सही लेबल के बिना सिंथेटिक वीडियो क्यों उपलब्ध रहते हैं, जबकि IT नियमों के तहत ऐसे कंटेंट की पहचान करना ज़रूरी है।

सरकार ने कंटेंट मॉडरेशन में ज़्यादा मानवीय दखल की मांग की, खासकर भारतीय भाषाओं, सांस्कृतिक संदर्भों और स्थानीय बारीकियों की बेहतर समझ के लिए।

अधिकारियों ने ज़ोर दिया कि इस कवायद का मकसद सेंसरशिप नहीं, बल्कि यह सुनिश्चित करना है कि मेटा भारतीय कानून के तहत अपनी ज़िम्मेदारियां पूरी करे।

अगले हफ्ते एक और बैठक होने की उम्मीद है क्योंकि सरकार कंपनी की प्रतिक्रिया पर नज़र रखे हुए है।

मोदी पोस्ट और प्लेटफॉर्म सुरक्षा को लेकर मेटा की जांच

यह तकनीकी बैठक IT मंत्री अश्विनी वैष्णव, IT सचिव एस. कृष्णन और ग्लोबल अफेयर्स हेड जोएल कपलान के नेतृत्व वाली मेटा की ग्लोबल टीम के बीच दो दिनों की चर्चा के बाद हुई।

कंपनी से रिकमेंडेशन एल्गोरिदम, प्रमुख और वेरिफाइड अकाउंट्स के लिए सुरक्षा उपायों, एल्गोरिदम में पक्षपात और भारतीय नियमों के पालन के बारे में सवाल किए गए।

मेटा ने पहले प्रधानमंत्री नरेंद्र मोदी की एक Facebook पोस्ट को कुछ समय के लिए रोकने के लिए माफ़ी मांगी थी, और इस कार्रवाई के लिए अपने AI-पावर्ड ऑटोमेटेड मॉडरेशन सिस्टम की गलती को ज़िम्मेदार ठहराया था। यह पोस्ट, जिसे मूल रूप से Instagram पर शेयर किया गया था और बाद में Facebook पर पोस्ट किया गया था, उसे बाद में बहाल कर दिया गया।

सरकार ने मेटा से यह भी पूछा कि क्या सार्वजनिक अशांति पैदा करने वाले कंटेंट को प्रमोट करने के लिए पेमेंट स्वीकार किए गए थे। अधिकारियों ने इन्फॉर्मेशन टेक्नोलॉजी एक्ट की धारा 79 का हवाला दिया और चेतावनी दी कि इंटरमीडियरी (मध्यस्थ) के तौर पर ज़िम्मेदारियां पूरी न करने पर कंपनी का 'सेफ-हार्बर' प्रोटेक्शन खतरे में पड़ सकता है। सरकार ने Instagram पर पेड विज्ञापनों में कथित CSAM दिखने को लेकर भी मेटा को नोटिस जारी किया था।

सूत्रों ने बताया कि मेटा ने गंभीर चिंताओं को स्वीकार किया और अधिकारियों को भरोसा दिलाया कि वह उन्हें दूर करने के लिए काम कर रही है। सरकार ने साफ कर दिया है कि कंटेंट मॉडरेशन, AI-जनरेटेड कंटेंट, बच्चों की सुरक्षा और कानूनी नियमों के पालन में लगातार सुधार की ज़रूरत होगी।