Grok AI Controversy: सोशल मीडिया प्लेटफॉर्म X ने अपनी गलती मानी है और भारत सरकार को आश्वासन दिया है कि वह भारतीय कानूनों के अनुसार काम करेगा। यह आश्वासन सरकार के सूत्रों ने दिया है, जो ग्रोक नामक उसके AI टूल के दुरुपयोग को लेकर विवाद के बीच आया है. सरकार के सूत्रों के अनुसार X ने भारतीय कानूनों का उल्लंघन करने वाले लगभग 3,500 कंटेंट ब्लॉक कर दिए हैं और 600 से ज्यादा अकाउंट्स डिलीट कर दिए हैं.प्लेटफॉर्म ने यह भी बताया है कि वह आगे से अपने प्लेटफॉर्म पर अश्लील तस्वीरों की इजाज़त नहीं देगा.
सरकारी सूत्रों ने कहा, “X ने अपनी गलती मान ली है और कहा है कि वह भारत के कानूनों के हिसाब से काम करेगा.” साथ ही, सुधार के उपाय पहले ही शुरू कर दिए गए हैं.
जानें क्या है पूरा मामला?
यह डेवलपमेंट मिनिस्ट्री ऑफ़ इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी (MeitY) के 2 जनवरी को X को एक लेटर जारी करने के बाद हुआ है, जिसमें प्लेटफॉर्म को भारतीय कानून के तहत कानूनी जिम्मेदारियों का पालन करने के लिए 72 घंटे का समय दिया गया था. एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स की पिछले कुछ दिनों में यूजर डिमांड बहुत बढ़ गई थी जब उसका AI चैटबॉट, Grok, काफी डरावने बिकिनी ट्रेंड के लिए वायरल हो गया था.लोग इसे अन्य विषयों पर जानकारी और संदर्भ के लिए भी इस्तेमाल कर रहे हैं.
MeitY ने जताई गंभीर चिंता
अपने कम्युनिकेशन में MeitY ने X पर इंटीग्रेटेड AI-बेस्ड सर्विस, Grok AI के गलत इस्तेमाल पर गंभीर चिंता जताई. मिनिस्ट्री ने कहा कि ग्रोक का गलत इस्तेमाल प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के ज़रिए खासकर महिलाओं को टारगेट करके अश्लील, भद्दे और सेक्शुअली एक्सप्लिसिट इमेज और वीडियो बनाने और सर्कुलेट करने के लिए किया जा रहा था.
IT एक्ट का उल्लघंन
मिनिस्ट्री ने कहा कि ऐसा कंटेंट इन्फॉर्मेशन टेक्नोलॉजी एक्ट, 2000 और इन्फॉर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) रूल्स, 2021 के प्रोविज़न का उल्लंघन करता है. इसने आगे कहा कि ये काम महिलाओं और बच्चों की गरिमा, प्राइवेसी और सुरक्षा को कमज़ोर करते हैं और प्लेटफॉर्म-लेवल सेफगार्ड की नाकामी को दिखाते हैं.
मिनिस्ट्री ऑफ़ इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी ने X को याद दिलाया कि आईटी एक्ट और आईटी रूल्स, 2021 का पालन करना जरूरी सोशल मीडिया इंटरमीडियरीज़ के लिए ज़रूरी है और चेतावनी दी कि पालन न करने पर आईटी एक्ट के सेक्शन 79 के तहत सेफ हार्बर प्रोटेक्शन खत्म हो सकता है, साथ ही लागू कानूनों के तहत आगे की कानूनी कार्रवाई भी हो सकती है.
मिनिस्ट्री ने X को दिए कई निर्देश
मिनिस्ट्री ने X को Grok का पूरी तरह से टेक्निकल और गवर्नेंस-लेवल रिव्यू करने, अपनी यूजर पॉलिसी को सख्ती से लागू करने, बिना देर किए गैर-कानूनी कंटेंट हटाने और 72 घंटों के अंदर एक्शन टेकन रिपोर्ट जमा करने का निर्देश दिया.
X ने मानी सरकार की बात
सरकारी सूत्रों ने कहा कि X ने अब मिनिस्ट्री की उठाई गई चिंताओं को मान लिया है, फ़्लैग किए गए कंटेंट को हटा दिया है, और अधिकारियों को प्लेटफ़ॉर्म पर अश्लील कंटेंट बनने और फैलने से रोकने के लिए मज़बूत सुरक्षा उपायों का भरोसा दिया है.
