महिला सुरक्षा पर केंद्र सख्त: 'X' को 72 घंटे का अल्टीमेटम; ग्रोक AI से अश्लील कंटेंट हटाने और रिपोर्ट सौंपने के निर्देश

नई दिल्ली। भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म 'X' (पूर्व में ट्विटर) के खिलाफ कड़ा रुख अपनाते हुए एक औपचारिक नोटिस जारी किया है।² सरकार ने X को अपने आर्टिफिशियल इंटेलिजेंस टूल 'ग्रोक' (Grok) द्वारा तैयार किए जा रहे अश्लील, अपमानजनक और गैरकानूनी कंटेंट को तुरंत हटाने का निर्देश दिया है।

यह कार्रवाई उन रिपोर्ट्स के बाद की गई है जिनमें बताया गया था कि यूजर्स ग्रोक AI का दुरुपयोग कर महिलाओं और नाबालिगों की तस्वीरों को 'डीपफेक' और 'डिजिटल न्यूडिटी' में तब्दील कर रहे हैं।

चिट्ठी में सरकार की कड़ी चेतावनी

मंत्रालय ने X के मुख्य अनुपालन अधिकारी (CCO) को भेजे पत्र में स्पष्ट किया है कि प्लेटफॉर्म की सुरक्षा प्रणालियाँ AI तकनीक के दुरुपयोग को रोकने में विफल रही हैं।⁵ नोटिस के मुख्य बिंदु निम्नलिखित हैं:

• 72 घंटे में रिपोर्ट: X को अगले तीन दिनों (72 घंटे) के भीतर एक विस्तृत 'एक्शन टेकन रिपोर्ट' (ATR) जमा करनी होगी, जिसमें अश्लील कंटेंट को रोकने के लिए उठाए गए कदमों की जानकारी देनी होगी।

• सेफ हार्बर का खतरा: यदि X इन निर्देशों का पालन नहीं करता है, तो वह आईटी अधिनियम की धारा 79 के तहत प्राप्त 'सेफ हार्बर' (कानूनी संरक्षण) खो सकता है।⁷ इसका मतलब है कि प्लेटफॉर्म पर किसी भी अवैध पोस्ट के लिए कंपनी को सीधे तौर पर जिम्मेदार माना जाएगा।⁸

• तकनीकी ऑडिट: सरकार ने ग्रोक के 'प्रॉम्प्ट-प्रोसेसिंग' और 'आउटपुट जनरेशन' सिस्टम के व्यापक तकनीकी ऑडिट का आदेश दिया है ताकि भविष्य में ऐसे प्रॉम्प्ट्स को ब्लॉक किया जा सके।

सांसद प्रियंका चतुर्वेदी ने उठाई थी आवाज

इस मामले ने तब तूल पकड़ा जब राज्यसभा सांसद प्रियंका चतुर्वेदी ने केंद्रीय आईटी मंत्री अश्विनी वैष्णव को पत्र लिखकर ग्रोक AI के "घोर दुरुपयोग" की शिकायत की थी।⁹ उन्होंने बताया कि कैसे असली महिलाओं के फोटो को AI के जरिए मॉर्फ कर अपमानजनक तरीके से सोशल मीडिया पर फैलाया जा रहा है।¹⁰

मंत्री अश्विनी वैष्णव ने भी इस पर प्रतिक्रिया देते हुए कहा, "सोशल मीडिया प्लेटफॉर्म्स को अपनी जिम्मेदारी समझनी होगी। हम महिलाओं की गरिमा और डिजिटल सुरक्षा के साथ किसी भी तरह का समझौता बर्दाश्त नहीं करेंगे।"

ग्रोक (Grok) ने स्वीकार की अपनी गलती

बढ़ते विवाद के बीच, X के AI चैटबॉट 'ग्रोक' ने सार्वजनिक रूप से स्वीकार किया है कि उसके सुरक्षा उपायों (Safeguards) में कुछ गंभीर खामियां रही हैं।¹¹ कंपनी ने एक पोस्ट में कहा:

"हमने सुरक्षा उपायों में कुछ 'लैप्सेस' (Lapses) की पहचान की है जिसके कारण आपत्तिजनक तस्वीरें तैयार हुईं। हम इन्हें ठीक करने के लिए चौबीसों घंटे काम कर रहे हैं और ऐसी सामग्री को पूरी तरह ब्लॉक करने के लिए एडवांस फिल्टर्स लगा रहे हैं।"

क्या है 'Safe Harbour' सुरक्षा?

आईटी कानून के तहत, सोशल मीडिया प्लेटफॉर्म्स को एक 'इंटरमीडियरी' माना जाता है। यदि कोई यूजर कुछ गलत पोस्ट करता है, तो उसके लिए कंपनी को तब तक जिम्मेदार नहीं माना जाता जब तक वह सरकार के निर्देशों का पालन करती है। इस सुरक्षा को 'सेफ हार्बर' कहते हैं। इसके हटने का मतलब है कि X पर होने वाले हर अपराध के लिए एलन मस्क की कंपनी पर भारत में मुकदमा चलाया जा सकेगा।