अश्लील कंटेंट का मामला : आखिरकार मस्क की कंपनी को अपनी गलती को हुआ अहसास, डिलीट किए सैकड़ों अकाउंट, 3,500 कंटेंट को किए ब्लॉक

नई दिल्ली। एलन मस्क की कंपनी 'एक्स कापोर्रेशन' ने अपने प्लेटफॉर्म पर अश्लील सामग्री की मौजूदगी को स्वीकार किया है, जो ज्यादातर उसके 'ग्रोक' एआई द्वारा बनाई गई हैं। कंपनी ने इसके साथ ही कहा है कि वह भारतीय कानूनों का पालन करेगी और ऐसे कंटेंट को हटा देगी।

रविवार को सरकारी सूत्रों के अनुसार, प्लेटफॉर्म ने लगभग 3,500 कंटेंट को ब्लॉक कर दिया है और 600 से ज्यादा संदिग्ध अकाउंट डिलीट कर दिए हैं। सूत्रों ने आगे कहा कि अब से, "एक्स अश्लील सामग्री की इजाजत नहीं देगा।"

इससे पहले, एक्स कापोर्रेशन ने सरकार को एक लिखित जवाब दिया था, जिसमें कंपनी से "उसके ग्रोक एआई चैटबॉट द्वारा बिना सहमति के सेक्शुअल कंटेंट बनाने" के बारे में पूछा गया था। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स कापोर्रेशन पर उसके प्लेटफॉर्म पर अश्लील कंटेंट बनने और सकुर्लेट होने से रोकने में नाकाम रहने पर तलब किया था।

सरकार ने एक्स कापोर्रेशन को 72 घंटे के अंदर "एआई-आधारित सेवाओं जैसे 'ग्रोक' और एक्स एआई की अन्य सेवाओं के गलत इस्तेमाल से अश्लील, अभद्र और आपत्तिजनक कंटेंट को होस्ट करने, बनाने, पब्लिश करने या ट्रांसमिट करने, शेयर करने या अपलोड करने से रोकने के लिए तुरंत कार्रवाई" करने की रिपोर्ट भेजने का निर्देश दिया था।

सरकारी निर्देश में कहा गया है कि "इन जरूरतों का पालन न करने को गंभीरता से देखा जाएगा और इसके परिणामस्वरूप आईटी एक्ट, आईटी नियमों, बीएनएसएस, बीएनएस और अन्य लागू कानूनों के तहत, बिना किसी और नोटिस के, आपके प्लेटफॉर्म, इसके जिÞम्मेदार अधिकारियों और प्लेटफॉर्म पर कानून तोड़ने वाले यूजर्स के खिलाफ सख्त कानूनी कार्रवाई हो सकती है।"

मंत्रालय ने एक्स को गैर-कानूनी कंटेंट बनने से रोकने के लिए ग्रोक के टेक्निकल और गवर्नेंस फ्रेमवर्क की पूरी तरह से समीक्षा करने का निर्देश दिया। इसने कहा कि ग्रोक को सख्त यूजर पॉलिसी लागू करनी चाहिए, जिसमें उल्लंघन करने वालों को सस्पेंड और टर्मिनेट करना शामिल है। इसने कहा कि सभी आपत्तिजनक कंटेंट को सबूतों से छेड़छाड़ किए बिना तुरंत हटा दिया जाना चाहिए।

एक्स कापोर्रेशन ने कहा कि वह अपने सोशल मीडिया प्लेटफॉर्म पर गैर-कानूनी कंटेंट, जिसमें चाइल्ड सेक्सुअल एब्यूज मटेरियल भी शामिल है, पर सख्त एक्शन लेगा। मस्क ने यह भी पोस्ट किया कि "जो कोई भी ग्रोक का इस्तेमाल करके गैर-कानूनी कंटेंट बनाएगा, उसे वही नतीजे भुगतने होंगे जैसे कि उसने गैर-कानूनी कंटेंट अपलोड किया हो।"