एक्स प्लेटफॉर्म ने अब तक करीब 3500 कंटेंट पोस्ट ब्लॉक किए हैं और लगभग 600 अकाउंट्स को हटा दिया गया है। एक्स ने कहा है कि भविष्य में किसी भी तरह के अश्लील कंटेंट को बढ़ावा या अनुमति नहीं दी जाएगी।महिलाओं से संबंधित अश्लील और यौन रूप से आपत्तिजनक कंटेंट पर कड़ी आपत्ति जताई।
फोटो साभार: गूगल
ग्रोक को लेकर उठे विवाद के बीच एक्स (ट्विटर) ने भारतीय कानूनों और दिशानिर्देशों के पालन में हुई चूक को स्वीकार कर लिया है। खबरों के मुताबिक एक्स ने सरकार को भरोसा दिलाया है कि वह आगे से भारत के कानूनों के अनुसार ही काम करेगा। इस कार्रवाई के तहत प्लेटफॉर्म ने अब तक करीब 3500 कंटेंट पोस्ट ब्लॉक किए हैं और लगभग 600 अकाउंट्स को हटा दिया गया है। एक्स ने यह भी कहा है कि भविष्य में किसी भी तरह के अश्लील कंटेंट को बढ़ावा या अनुमति नहीं दी जाएगी। गौरतलब है कि ग्रोक पर अश्लील सामग्री को लेकर इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MEITY) ने एक्स को नोटिस जारी किया था।
क्या है पूरा मामला
यह पूरा विवाद तब शुरू हुआ जब इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक्स के आर्टिफिशियल इंटेलिजेंस टूल ग्रोक के जरिए बनाए जा रहे अश्लील और यौन रूप से आपत्तिजनक कंटेंट पर कड़ी आपत्ति जताई। मंत्रालय ने 2 जनवरी को एक्स को निर्देश जारी कर कहा था कि ग्रोक या किसी भी अन्य माध्यम से तैयार किए गए सभी अश्लील, वुल्गर और गैरकानूनी कंटेंट को तुरंत हटाया जाए। साथ ही यह भी साफ किया गया था कि यदि आदेश का पालन नहीं किया गया तो आईटी एक्ट और अन्य लागू कानूनों के तहत सख्त कानूनी कार्रवाई की जाएगी।
केंद्र सरकार ने सोशल मीडिया मंच एक्स को अश्लील और गैरकानूनी सामग्री को लेकर कड़ा रुख अपनाने का निर्देश दिया है। मंत्रालय ने एक्स से कहा था कि वह उसके एआई टूल ग्रोक पर मौजूद सभी अश्लील, आपत्तिजनक और अवैध कंटेंट को तुरंत हटाए अन्यथा कानूनी कार्रवाई की जाएगी। इसके साथ ही 72 घंटे के भीतर की गई कार्रवाई की रिपोर्ट भी सौंपने को कहा गया था। सरकार ने यह भी साफ किया कि आईटी कानून की धारा 79 के तहत मिलने वाली कानूनी सुरक्षा तभी लागू होगी जब मंच नियमों के अनुसार पूरी सावधानी और जिम्मेदारी निभाएगा।
महिलाओं को निशाना बनाने पर मंत्रालय की चिंता
मंत्रालय ने अपने आकलन में कहा था कि ग्रोक AI का गलत इस्तेमाल सिर्फ फर्जी अकाउंट बनाने तक सीमित नहीं है बल्कि इसका उपयोग सोशल मीडिया पर महिलाओं को परेशान करने, उन्हें निशाना बनाने और उनकी तस्वीरों व वीडियो से छेड़छाड़ करने के लिए भी किया जा रहा है। मंत्रालय के अनुसार आपत्तिजनक प्रॉम्प्ट्स के जरिए इमेज एडिटिंग और सिंथेटिक कंटेंट तैयार कर महिलाओं की छवि को नुकसान पहुंचाया जा रहा है।
इन चिंताओं के बाद एक्स ने आईटी मंत्रालय को एक विस्तृत जवाब भेजा था लेकिन भारत सरकार ने इसे “लंबा होने के बावजूद अपर्याप्त” बताया। सरकारी सूत्रों का कहना है कि मंत्रालय एक्स द्वारा उठाए गए कदमों और आगे की कार्यप्रणाली पर लगातार निगरानी रखेगा ताकि डिजिटल प्लेटफॉर्म पर अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट पर प्रभावी रोक लगाई जा सके और भारतीय कानूनों का पूरी तरह पालन सुनिश्चित हो।
ग्रोक एआई क्या है?
ग्रोक (Grok) एक आर्टिफिशियल इंटेलिजेंस यानी एआई टूल है जिसे एलन मस्क की कंपनी xAI ने बनाया है। यह टूल सोशल मीडिया प्लेटफॉर्म एक्स (पहले ट्विटर) से जुड़ा हुआ है और इसका काम लोगों के सवालों के जवाब देना जानकारी समझाना और टेक्स्ट व इमेज जैसे कंटेंट तैयार करना है।
यदि आप हमको सपोर्ट करना चाहते है तो हमारी ग्रामीण नारीवादी स्वतंत्र पत्रकारिता का समर्थन करें और हमारे प्रोडक्ट KL हटके का सब्सक्रिप्शन लें’
