X पर अश्लील AI कंटेंट का राज खुला: 3500 पोस्टें गायब, 600 यूजर्स बैन- ग्रोक ने मचाया क्या तूफान?

X ने भारत सरकार के नोटिस के बाद ग्रोक AI से बने अश्लील कंटेंट पर कार्रवाई की। 3500 पोस्ट ब्लॉक, 600 अकाउंट डिलीट। मीटी ने गैर-सहमति वाली महिलाओं की आपत्तिजनक तस्वीरें हटाने को कहा था। प्लेटफॉर्म ने कानून मानने का वादा किया।

भारत सरकार का अल्टीमेटम: ग्रोक AI से नॉन-कंसेंशुअल पोर्न के बाद X ने 3500 कंटेंट हटाए, 600 अकाउंट बंद!

ग्रोक AI का भारत में काला अध्याय: X ने 3500 पोस्ट ब्लॉक कर 600 अकाउंट डिलीट किए

सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) ने भारत सरकार के सख्त निर्देशों के बाद बड़ा एक्शन लिया है। मीटी (मिनिस्ट्री ऑफ इलेक्ट्रॉनिक्स एंड इंफॉर्मेशन टेक्नोलॉजी) द्वारा फ्लैग किए गए ग्रोक AI से जुड़े आपत्तिजनक कंटेंट पर कंपनी ने करीब 3500 पोस्ट ब्लॉक कर दिए और 600 से ज्यादा अकाउंट हमेशा के लिए डिलीट कर दिए। सरकारी सूत्रों ने पुष्टि की कि X ने अपनी गलती मानी और आगे से भारतीय कानूनों का सख्ती से पालन करने का वादा किया है।​

यह कार्रवाई 2 जनवरी 2026 को भेजे गए दूसरे नोटिस के बाद हुई, जब सरकार X के पहले जवाब से संतुष्ट नहीं थी। मीटी ने चेतावनी दी थी कि गैर-अनुपालन को गंभीरता से लिया जाएगा और आईटी एक्ट व अन्य कानूनों के तहत सख्त कार्रवाई हो सकती है। X ने 72 घंटे के अंदर एक्शन रिपोर्ट मांगी गई थी, जिसमें ग्रोक जैसे AI टूल्स के गलत इस्तेमाल को रोकने के उपाय बताने थे।​

ग्रोक AI का दुरुपयोग कैसे हुआ?

ग्रोक, एलन मस्क की xAI द्वारा बनाया गया चैटबॉट, X प्लेटफॉर्म पर इंटीग्रेटेड है। यूजर्स ने इसे गलत तरीके से इस्तेमाल कर गैर-सहमति वाली अश्लील तस्वीरें और वीडियो जेनरेट किए, खासकर महिलाओं को टारगेट कर। प्रॉम्प्ट्स, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट से महिलाओं की फोटो को वल्गर तरीके से बदला गया। मीटी ने कहा कि ये न सिर्फ प्लेटफॉर्म सेफगार्ड्स की नाकामी है, बल्कि आईटी रूल्स 2021 का उल्लंघन भी।​

सरकारी पत्र में साफ कहा गया कि फेक अकाउंट्स बनाने से आगे, असली महिलाओं की तस्वीरों को डिपीपफेक स्टाइल में बदला जा रहा था। X को निर्देश दिया गया कि यूजर पॉलिसी सख्ती से लागू करे, वायलेटर्स को सस्पेंड/टर्मिनेट करे और कंटेंट तुरंत हटाए। X ने 8 जनवरी को डिटेल्ड रिपोर्ट दी, लेकिन सरकार ने उसे ‘नाकाफी’ बताया। अब X ने सुधार के कदम उठाए हैं।​

X की कार्रवाई का पूरा ब्योरा

सरकारी सूत्रों के हवाले से मिली जानकारी के मुताबिक:

• ब्लॉक किए गए कंटेंट: लगभग 3500 पोस्ट्स या पीसेस ऑफ कंटेंट, जो ग्रोक AI से जेनरेटेड अश्लील मटेरियल थे।
• डिलीट किए अकाउंट्स: 600 से ज्यादा अकाउंट्स परमानेंटली बंद, जो कंटेंट होस्ट कर रहे थे या शेयर कर रहे थे।
• भविष्य के वादे: X ने आश्वासन दिया कि आगे अश्लील इमेजरी बर्दाश्त नहीं होगी। कंटेंट मॉडरेशन प्रोसेस मजबूत करेंगे और आईटी रूल्स का पालन करेंगे।​

X ने अपनी गलती स्वीकार की और कहा कि वो भारत में सभी कानूनों के अनुरूप चलेगा। यह कदम ग्लोबल प्रेशर का भी हिस्सा है, क्योंकि कई देशों में ग्रोक पर कंटेंट मॉडरेशन और डेटा सेफ्टी की जांच चल रही है।​

ग्रोक AI और डिपीपफेक का खतरा

ग्रोक जैसे जेनरेटिव AI टूल्स तेजी से पॉपुलर हो रहे हैं, लेकिन इनका दुरुपयोग चिंता का विषय है। भारत में महिलाओं को टारगेट कर नॉन-कंसेंसुअल पोर्न जेनरेट करना आम हो गया है। मीटी ने X से ग्रोक के टेक्निकल और गवर्नेंस फ्रेमवर्क की समीक्षा करने को कहा, ताकि प्रॉम्प्ट्स पर फिल्टर्स लगें और वायलेशन रोकें।​

विशेषज्ञ कहते हैं कि AI जेनरेटेड कंटेंट को डिटेक्ट करना मुश्किल है। X को अब एडवांस्ड मॉडरेशन टूल्स, यूजर रिपोर्टिंग और लीगल कंप्लायंस बढ़ाना पड़ेगा। आईटी एक्ट की धारा 67 और 69A के तहत ऐसे कंटेंट को ब्लॉक करना जरूरी है।​

X पर अब तक की AI कार्रवाई का सारांश

भारत सरकार का रुख सख्त

मीटी ने साफ चेतावनी दी कि अनुपालन न करने पर प्लेटफॉर्म और उसके ऑफिशियल्स पर कानूनी कार्रवाई होगी। X को यूजर टर्म्स एनफोर्स करने, वायलेटर्स को पनिश करने और एविडेंस प्रिजर्व करने को कहा। यह मामला आईटी रूल्स 2021 के तहत ड्यू डिलिजेंस की नाकामी दिखाता है।​

दुनिया भर में AI रेगुलेशन

यह पहला केस नहीं। अमेरिका, यूरोप में भी डिपीपफेक पॉर्न पर बैन की बात चल रही। भारत में डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट (DPDP) और आईटी रूल्स AI को रेगुलेट करने की कोशिश कर रहे। X जैसी कंपनियों को लोकल सर्वर्स, इंडियन डेटा सेंटर्स और फटाफट कंप्लायंस दिखाना पड़ेगा।​

क्या X दोबारा फिसलेगा?

X ने वादा किया है कि आगे सेफगार्ड्स मजबूत होंगे। लेकिन यूजर्स का दुरुपयोग रोकना आसान नहीं। ग्रोक जैसे टूल्स में प्रॉम्प्ट फिल्टर्स, वॉटरमार्किंग और AI डिटेक्शन जरूरी। भारत सरकार लगातार मॉनिटर करेगी। अगर फिर शिकायतें आईं तो बड़ा एक्शन हो सकता है।​

यह घटना टेक कंपनियों को संकेत है कि भारत में फ्री स्पीच के नाम पर अश्लीलता बर्दाश्त नहीं। महिलाओं की सेफ्टी और डिजिटल राइट्स प्रोटेक्ट करना प्रायोरिटी है।

5 अक्सर पूछे जाने वाले सवाल (FAQs)

1. X ने ग्रोक AI कंट्रोवर्सी में क्या एक्शन लिया?
   X ने 3500 पोस्ट ब्लॉक किए और 600+ अकाउंट डिलीट किए। कंपनी ने गलती मानी और भारतीय कानून मानने का वादा किया।​
2. मीटी ने X को नोटिस क्यों भेजा?
   ग्रोक AI के गलत इस्तेमाल से महिलाओं की गैर-सहमति वाली अश्लील तस्वीरें जेनरेट हो रही थीं। आईटी रूल्स का उल्लंघन माना गया।​
3. ग्रोक AI क्या है और इसका दुरुपयोग कैसे हुआ?
   ग्रोक xAI का चैटबॉट है जो X पर है। यूजर्स ने प्रॉम्प्ट्स से डिपीपफेक पोर्न बनाया, खासकर महिलाओं को टारगेट कर।​
4. X ने सरकार को क्या आश्वासन दिया?
   अश्लील इमेजरी आगे बिल्कुल नहीं चलेगी। कंटेंट मॉडरेशन मजबूत करेंगे और आईटी एक्ट का पूरा पालन करेंगे।​
5. आगे क्या हो सकता है अगर X फिर फेल हुआ?
   सख्त कानूनी कार्रवाई, आईटी एक्ट के तहत पेनल्टी या प्लेटफॉर्म ब्लॉक। सरकार मॉनिटरिंग जारी रखेगी।