सरकार ने एक्स (पूर्व में ट्विटर) से कहा है कि वह अपने आर्टिफिशल इंटेलिजेंस आधारित चैटबॉट ‘ग्रोक’ की व्यापक ‘तकनीकी, प्रक्रियात्मक और प्रशासनिक’ समीक्षा करे तथा अगले 72 घंटों के भीतर इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय को विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करे।
आईटी मंत्रालय के साइबर लॉ विभाग ने पत्र में कहा कि एक्स को अपने सेवा-नियमों और उपयोगकर्ताओं के लिए एआई उपयोग प्रतिबंधों को लागू करना होगा
और ‘कड़े उपाय’ करने होंगे, जैसे कि उन खातों को निलंबित करना, बंद करना या अन्य कार्रवाई करना जो ग्रोक का उपयोग करके महिलाओं और बच्चों की यौन स्पष्टता वाली तस्वीरें बना रहे हैं।
मंत्रालय ने यह भी कहा है कि एक्स को ‘बिना देरी के, पहले से उत्पन्न या प्रसारित की गई सभी सामग्री, जो लागू कानूनों का उल्लंघन करती है, को हटाना या उसकी पहुंच रोकनी चाहिए। उसे यह कार्य आईटी नियम, 2021 में निर्धारित समयसीमा के सख्त अनुपालन में करना होगा, वह भी बिना किसी भी प्रकार से साक्ष्य को प्रभावित किए।’
मंत्रालय ने पत्र में कहा कि यदि एक्स इन निर्देशों का पालन करने में विफल रहता है, तो उसके खिलाफ उचित कार्रवाई की जाएगी, जिसमें ‘आईटी अधिनियम की धारा 79 के तहत दायित्व से छूट का नुकसान और आईटी अधिनियम तथा भारतीय न्याय संहिता (बीएनएस) सहित किसी भी कानून के तहत परिणाम वाली कार्रवाई’ शामिल होग। इस विषय में एक्स को भेजे ईमेल का कोई जवाब खबर लिखे जाने तक नहीं मिल सका।
दिन में पहले, केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने कहा था कि सोशल मीडिया प्लेटफॉर्म को अपने मंच पर मौजूद सामग्री की जिम्मेदारी लेनी चाहिए।
एक्स के चैटबॉट द्वारा ऐसी तस्वीरें बनाए जाने पर आईटी मंत्रालय की प्रतिक्रिया से संबंधित एक प्रश्न का उत्तर देते हुए, केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने शुक्रवार को कहा कि सोशल मीडिया प्लेटफॉर्मों को अपने-अपने प्लेटफॉर्म पर मौजूद सामग्री की जिम्मेदारी लेनी चाहिए। वैष्णव ने कहा, ‘आज, सोशल मीडिया हमारे समाज पर बड़ा प्रभाव डाल रहा है। उसे सामग्री की जिम्मेदारी लेनी चाहिए। इन प्लेटफॉर्मों की सामग्री पर हस्ताक्षेप होना चाहिए।’
एक्स का प्रमुख चैटबॉट ग्रोक भारत में कुछ साधारण प्रॉम्प्ट की बदौलत उपयोगकर्ताओं को महिलाओं और बच्चों की अश्लील तस्वीरें बनाने दे रहा है। इस विषय में एक्स से ईमेल पर सवाल किए गए जिनका जवाब नहीं मिल सका।
इस सप्ताह के आरंभ में यानी सोमवार को सूचना प्रसारण मंत्रालय ने सभी सोशल मीडिया कंपनियों को निर्देश जारी करके उनसे कहा था कि वे अपने प्लेटफॉर्म से अश्लील सामग्री हटाएं या फिर कठोर कदमों का सामना करें। मंत्रालय ने अपनी सलाह में कहा कि मध्यवर्ती कंपनियों को अश्लील सामग्री की जांच में और अधिक कड़ाई बरतने की आवश्यकता है।
