एलन मस्क का ग्रोक अब इंडोनेशिया में बंद: बच्चों की अश्लील डीपफेक से क्यों भड़का विवाद?

इंडोनेशिया ने एलन मस्क के ग्रोक चैटबॉट को अश्लील एआई इमेजेस के खतरे के कारण अस्थायी रूप से ब्लॉक कर दिया। दुनिया का पहला देश, जो नॉन-कंसेंशुअल डीपफेक को ह्यूमन राइट्स उल्लंघन मानता है। xAI ने सुधार के कदम उठाए।

ग्रोक चैटबॉट ब्लॉक: इंडोनेशिया ने कहा- ह्यूमन राइट्स का उल्लंघन, X को भी समन!

ग्रोक एआई पर इंडोनेशिया का पहला बैन: अश्लील इमेजेस से क्यों भड़का बवाल

इंडोनेशिया ने दुनिया को चौंका दिया है। एलन मस्क की कंपनी xAI के बनाए ग्रोक चैटबॉट को अस्थायी रूप से ब्लॉक कर दिया गया। वजह? एआई से बनी अश्लील तस्वीरें, खासकर बच्चों की न्यूड या अधनग्न इमेजेस। दुनिया का सबसे बड़ा मुस्लिम देश होने के नाते यहां अश्लील कंटेंट पर सख्त कानून हैं। कम्युनिकेशंस एंड डिजिटल मिनिस्टर म्यूटिया हाफिद ने इसे ह्यूमन राइट्स का गंभीर उल्लंघन बताया।​

यह पहला मौका है जब किसी देश ने ग्रोक को पूरी तरह एक्सेस बंद किया। यूरोप से एशिया तक सरकारें और रेगुलेटर्स पहले ही शिकायत कर चुके हैं। कुछ ने जांच शुरू कर दी। xAI ने 8 जनवरी को घोषणा की कि इमेज जनरेशन और एडिटिंग फीचर सिर्फ पेड सब्सक्राइबर्स तक सीमित कर दिया। फ्री यूजर्स के लिए बंद। मकसद सेफगार्ड्स ठीक करना, क्योंकि पहले सिस्टम में लूपहोल था जो बच्चों की सेक्शुअलाइज्ड तस्वीरें जेनरेट करने दे रहा था।​

मिनिस्टर हाफिद ने बयान जारी कर कहा, ‘नॉन-कंसेंशुअल सेक्शुअल डीपफेक मानवाधिकार, गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा का गंभीर उल्लंघन है।’ मिनिस्ट्री ने X (ट्विटर) के अधिकारियों को समन भी भेजा। मस्क ने X पर लिखा, ‘ग्रोक से गैरकानूनी कंटेंट बनाने वाले को वैसा ही सजा मिलेगी जैसे अपलोड करने वाले को।’ xAI ने रॉयटर्स को जवाब में ऑटोमेटेड मैसेज भेजा- ‘Legacy Media Lies’।​

इंडोनेशिया में 2.7 करोड़ से ज्यादा मुस्लिम आबादी है। यहां ऑनलाइन अश्लील कंटेंट शेयरिंग पर 6 महीने से 10 साल की सजा या भारी जुर्माना है। सरकार डिजिटल प्लेटफॉर्म्स से सख्त सेफगार्ड्स की मांग कर रही। अगर सुधार न हुआ तो X प्लेटफॉर्म पर भी बैन लग सकता।​

ग्रोक क्या है और विवाद कैसे बढ़ा

ग्रोक xAI का चैटबॉट है, जो टेक्स्ट के साथ इमेज जेनरेट करता है। लॉन्च के बाद ये फीचर वायरल हुआ, लेकिन नेगेटिव तरीके से। यूजर्स ने डीपफेक पोर्न बनाना शुरू कर दिया- सिलेब्रिटीज, बच्चों तक की फेक न्यूड इमेजेस। xAI ने इसे कंट्रोल करने के लिए पेड यूजर्स तक सीमित किया। फिर भी कई देशों में जांच चल रही।​

यूरोपीय यूनियन ने X से ग्रोक डॉक्यूमेंट्स लंबे समय रखने को कहा। ब्रिटेन ने भी डीपफेक पर दबाव बनाया। एशिया में इंडोनेशिया सबसे आगे कदम उठाया। विशेषज्ञ कहते हैं, एआई टूल्स में कंटेंट फिल्टर्स मजबूत होने चाहिए वरना ग्लोबल रेगुलेशन बढ़ेगा।​

xAI और मस्क की प्रतिक्रिया

मस्क ने साफ कहा कि गैरकानूनी कंटेंट पर सख्ती होगी। xAI सुधार कर रहा है। लेकिन क्रिटिक्स का कहना है कि लॉन्च से पहले ही सेफगार्ड्स कमजोर थे। अब पेड सब्सक्राइबर्स पर फोकस से फ्री यूजर्स प्रभावित। इंडोनेशिया में ग्रोक का भविष्य सुधार पर निर्भर।​

ग्रोक विवाद: प्रमुख घटनाक्रम

• जनवरी 8: xAI इमेज फीचर पेड यूजर्स तक सीमित।
• जनवरी 10: इंडोनेशिया ब्लॉक।
• EU/UK: जांच और डॉक्यूमेंट डिमांड।
• मस्क स्टेटमेंट: गैरकानूनी यूज पर सजा।​

एआई डीपफेक के खतरे

इंडोनेशिया का कानूनी आधार

देश का डिजिटल कानून प्लेटफॉर्म्स को ‘प्रोहिबिटेड कंटेंट’ रोकने को बाध्य करता। उल्लंघन पर एक्सेस टर्मिनेशन। मिनिस्टर ने इसे ‘डिजिटल बेस्ड वायलेंस’ कहा।​

ग्लोबल प्रभाव

यह बैन एआई इंडस्ट्री के लिए वार्निंग। चाइना, भारत जैसे देश सख्त हो सकते। xAI को क्विक फिक्स करना होगा। यूजर्स के लिए अल्टरनेटिव ढूंढना पड़ेगा।​

एआई एथिक्स पर सीख

• सेफगार्ड्स पहले लगाएं।
• यूजर एजुकेशन जरूरी।
• ग्लोबल रेगुलेशन मानें।
• ट्रांसपेरेंसी रखें।​

इंडोनेशिया का कदम साहसी है। एआई फ्रीडम और सेफ्टी का बैलेंस जरूरी। ग्रोक का क्या होगा, देखना बाकी।

5 अक्सर पूछे जाने वाले सवाल (FAQs)

1. इंडोनेशिया ने ग्रोक क्यों ब्लॉक किया?
   अश्लील एआई इमेजेस और नॉन-कंसेंशुअल डीपफेक के खतरे से। मिनिस्टर ने इसे ह्यूमन राइट्स उल्लंघन कहा।​
2. ग्रोक में क्या प्रॉब्लम थी?
   इमेज जनरेशन से बच्चों की अधनग्न तस्वीरें बन रही थीं। xAI ने इसे पेड यूजर्स तक सीमित किया।​
3. मस्क का क्या जवाब है?
   X पर कहा- गैरकानूनी कंटेंट बनाने वालों को सजा मिलेगी।​
4. क्या X भी बैन हो सकता?
   हां, अगर सुधार न हुआ तो प्लेटफॉर्म पर भी पाबंदी लग सकती।​
5. दुनिया में और क्या हो रहा?
   EU, UK जांच कर रहे। इंडोनेशिया पहला बैन करने वाला देश।