X का सरेंडर: ग्रोक AI विवाद के बाद 600 अकाउंट्स डिलीट, भारत सरकार को दिया सहयोग का भरोसा

भारत में एलन मस्क की कंपनी X (पूर्व में ट्विटर) और उसके AI टूल ग्रोक (Grok) को लेकर चल रहा विवाद अब निर्णायक मोड़ पर पहुँच गया है। भारत सरकार के कड़े रुख के बाद, कंपनी ने अपनी गलतियों को स्वीकार करते हुए भारतीय कानूनों के पूर्ण पालन का आश्वासन दिया है।

X का सरेंडर: ग्रोक AI विवाद के बाद 600 अकाउंट्स डिलीट, भारत सरकार को दिया सहयोग का भरोसा

भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा जारी नोटिस के बाद, X ने आधिकारिक तौर पर स्वीकार किया है कि उसके प्लेटफॉर्म और AI चैटबॉट 'ग्रोक' के कंटेंट मॉडरेशन में कमियां थीं। कंपनी ने अब स्पष्ट किया है कि वह IT एक्ट, 2000 और IT नियम, 2021 के तहत काम करेगी।

कार्रवाई के मुख्य आंकड़े

सरकार के साथ साझा की गई 'एक्शन टेकन रिपोर्ट' (ATR) के अनुसार, X ने निम्नलिखित कदम उठाए हैं:

 * अकाउंट्स पर गाज: अश्लील और आपत्तिजनक कंटेंट फैलाने वाले 600 से ज्यादा अकाउंट्स को स्थायी रूप से डिलीट कर दिया गया है।

 * कंटेंट बैन: लगभग 3,500 से अधिक पोस्ट और आपत्तिजनक विजुअल्स को प्लेटफॉर्म से हटा दिया गया है या भारत में ब्लॉक कर दिया गया है।

 * फ्यूचर बैन: कंपनी ने आश्वासन दिया है कि भविष्य में प्लेटफॉर्म पर किसी भी तरह की अश्लील इमेजरी (Obscene Imagery) की अनुमति नहीं दी जाएगी।

विवाद की जड़: ग्रोक AI और 'स्पाइसी मोड'

यह पूरा विवाद तब शुरू हुआ जब ग्रोक AI के 'ग्रोक इमेजिन' (Grok Imagine) फीचर का गलत इस्तेमाल सामने आया:

 * आपत्तिजनक गहरे फर्जीवाड़े (Deepfakes): यूजर्स ने ग्रोक को ऐसे प्रॉम्प्ट दिए जिससे महिलाओं की तस्वीरों को अश्लील तरीके से एडिट (Undress/Sexualize) किया गया।

 * बिना सहमति साझा करना: ये AI जनरेटेड तस्वीरें X पर धड़ल्ले से शेयर की जा रही थीं, जिससे निजता और गरिमा का उल्लंघन हो रहा था।

 * सांसद की शिकायत: राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे पर आईटी मंत्री अश्विनी वैष्णव को पत्र लिखकर हस्तक्षेप की मांग की थी।

सरकार की चेतावनी: 'सेफ हार्बर' का खतरा

सरकार ने X को चेतावनी दी थी कि यदि उसने 72 घंटों के भीतर (जिसे बाद में 48 घंटे बढ़ाया गया) कार्रवाई नहीं की, तो वह अपनी 'सेफ हार्बर' (Safe Harbour) सुरक्षा खो सकता है।

 * क्या है सेफ हार्बर? इसके तहत सोशल मीडिया कंपनियों को उनके प्लेटफॉर्म पर किसी तीसरे पक्ष (User) द्वारा पोस्ट किए गए कंटेंट के लिए कानूनी रूप से जिम्मेदार नहीं ठहराया जाता। यदि यह सुरक्षा हट जाती, तो X के अधिकारियों पर सीधे आपराधिक केस चल सकते थे।

X का नया रुख और तकनीकी बदलाव

 * गार्डरेल्स (Guardrails): मस्क की कंपनी अब ग्रोक AI में नए फिल्टर्स लगा रही है ताकि यह न्यूडिटी या यौन सामग्री जनरेट न कर सके।

 * पेवॉल (Paywall): विवाद के बीच, X ने ग्रोक के इमेज जनरेशन फीचर को कुछ समय के लिए केवल प्रीमियम यूजर्स तक सीमित कर दिया है ताकि निगरानी आसान हो सके।

 * जीरो टॉलरेंस: कंपनी ने कहा है कि Child Sexual Abuse Material (CSAM) और बिना सहमति के शेयर किए गए अंतरंग फोटो पर उसकी 'जीरो टॉलरेंस' नीति जारी रहेगी।

निष्कर्ष

यह घटना दर्शाती है कि भारत जैसे बड़े बाजार में वैश्विक टेक दिग्गज भी स्थानीय कानूनों और डेटा सुरक्षा नियमों की अनदेखी नहीं कर सकते। सरकार ने साफ कर दिया है कि AI का विकास नवाचार के नाम पर नागरिकों की सुरक्षा और सम्मान की बलि देकर नहीं हो सकता।