डेस्कः ग्रोक (Grok) के दुरुपयोग को लेकर केंद्र सरकार सख्त हो गई है. सरकार ने सोशल मीडिया कंपनी ‘X’ को पत्र लिखा है। सरकार ने Grok और xAI की अन्य सेवाओं जैसी AI-आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री की होस्टिंग, निर्माण, प्रकाशन, प्रसारण, साझा करने या अपलोड किए जाने की रोकथाम के लिए तत्काल अनुपालन सुनिश्चित करने के संबंध में की गई कार्रवाई को लेकर रिपोर्ट मांगी है।
‘बिहार में 20-25 हजार में मिल जाती हैं लड़कियां’ BJP की मंत्री के पति का बेतुका बयान पर बवाल
ग्रोक एलन मस्क की कंपनी xAI द्वारा बनाया गया एक AI चैटबॉट और सहायक टूल है। यह टूल किसी की तस्वीर भी बना सकता है और सवालों का जवाब भी दे सकता है। हाल फिलहाल में ऐसे कई मामले सामने आए थे जिसमें ग्रोक के दुरुपयोग की बात सामने आई। सोशल मीडिया पर कुछ लोगों ने इसका विरोध भी किया और सरकार से एक्शन की मांग की थी।
सरकार ने फर्जी एकाउंट का भी किया जिक्र
सरकार ने कहा है कि विशेष रूप से यह देखा गया है कि आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर उपलब्ध कराई गई सेवा “ooGrok AI” का दुरुपयोग उपयोगकर्ताओं द्वारा महिलाओं की अश्लील तस्वीरों और वीडियो को अपमानजनक या भद्दे तरीके से पेश करने, पोस्ट करने के लिए जा रहा है। हैरानी की बात तो यह है कि इसका उपयोग फर्जी खातों के जरिए किया जा रहा है।
शादाब जकाती के पास मैं खुद जाती हूं, पैसा मिलता है… पति के लगाए आरोप पर पत्नी इरम ने दिया जवाब
प्लेटफॉर्म की सुरक्षा और सिस्टम पर उठाया सवाल
पत्र में आगे कहा गया है कि महत्वपूर्ण बात यह है कि मामला केवल फर्जी आईडी तक सीमित नहीं है बल्कि ग्रोक के जरिए उन महिलाओं को भी निशाना बनाया जाता है तो अपनी तस्वीर या वीडियो सोशल मीडिया पर पोस्ट करती हैं। ऐसी स्थिति में ग्रोक एआई के जरिए उनकी तस्वीर के साथ छेड़छाड़ की जाती है और कभी-कभी अश्लील रूप में पेश किया जाता है। इस तरह का आचरण प्लेटफॉर्म की सुरक्षा उपायों और सिस्टम की गंभीर विफलता को दर्शाता है।
सरकार ने कानून का दिया हवाला
इस संदर्भ में, और लागू कानूनों के तहत अधिकृत एजेंसियों द्वारा की गई या की जा रही कार्रवाई पर प्रतिकूल प्रभाव डाले बिना, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (मंत्रालय) का यह मत है कि सूचना प्रौद्योगिकी अधिनियम, 2000 (आईटी अधिनियम) और सूचना प्रौद्योगिकी नियम, 2021 के नियामक प्रावधानों का आपके प्लेटफॉर्म द्वारा पर्याप्त रूप से पालन नहीं किया जा रहा है।
