क्या आपको पता है कि अब आप केवल 30 डॉलर प्रति माह में टेलर स्विफ्ट के बिना सहमति के गहरे फेक वीडियो पा सकते हैं? यह कुछ ऐसा है जो Elon Musk के नए AI प्रोजेक्ट xAI द्वारा संभव हो गया है।

इस सप्ताह के शुरू में, Elon Musk की xAI ने एक नया इमेज और वीडियो जेनरेटर, Grok Imagine, लॉन्च किया। इसका एक "स्पाइसी" मोड है, जो सुझावात्मक इशारों से लेकर नग्नता तक की सामग्री उत्पन्न करने की क्षमता रखता है। लेकिन इसकी सबसे बड़ी समस्या यह है कि इस टूल में वास्तविक लोगों की छवियों को बनाने के लिए कोई स्पष्ट सुरक्षा व्यवस्था नहीं है। इसका मतलब यह है कि आप Grok का उपयोग करके किसी भी प्रसिद्ध व्यक्ति का 'सॉफ्टकोर पोर्नोग्राफी' बना सकते हैं।

Musk ने गर्व से कहा कि लॉन्च के पहले ही दिन 34 मिलियन से अधिक छवियाँ बनाई गईं। लेकिन असली खेल यह है कि xAI ने बिना किसी रोक-टोक के वयस्क सामग्री बनाने की अनुमति दे दी है, जबकि अन्य कंपनियाँ अपने प्लेटफार्मों पर ऐसी सामग्री को रोकने के लिए दबाव में हैं।

अंतरराष्ट्रीय स्तर पर, ब्रिटेन ने हाल ही में उम्र-गेटिंग नियमों को लागू किया है, जो कि 18 से कम उम्र के उपयोगकर्ताओं के लिए यौन या अन्य हानिकारक सामग्री को रोकने की मांग करता है। जबकि वहीं, एक सक्रियता समूह, Collective Shout, ने Steam और Itch.io को वयस्क खेलों को हटाने का दबाव डाला है।

गहराई में जाने पर, यह भी ध्यान देने योग्य है कि Grok का नया फीचर न केवल गैर-सहमति वाले नग्नता के लिए एक खतरा है, बल्कि यह एक बढ़ती हुई समस्या का हिस्सा है, जिसे छवि-आधारित यौन शोषण कहा जाता है। RAINN (Rape, Abuse & Incest National Network) ने Grok की विशेषता को "छवि आधारित यौन शोषण की बढ़ती समस्या" का हिस्सा बताया है।

हालांकि, जॉर्ज वॉशिंगटन यूनिवर्सिटी के कानून स्कूल की प्रोफेसर, मैरी एनी फ्रैंक्स का कहना है कि Grok का इस कानून के तहत कोई जिम्मेदारी का सामना करने की संभावना कम है। उनका कहना है कि कानून में 'प्रकाशन' की परिभाषा स्पष्ट नहीं है, जिससे यह स्पष्ट नहीं है कि Grok का उपयोग कैसे अवैध हो सकता है।

अंततः, यह सवाल उठता है कि क्या Grok की निर्बाधता दूसरों के लिए खतरनाक साबित होगी, जब वे बिना सहमति के नग्नता के शिकार हो सकते हैं।