क्या आपने कभी सोचा है कि AI तकनीक आपकी कल्पनाओं को हकीकत में बदल सकती है? हाल ही में एक दिलचस्प परीक्षण में, द वर्ज की रिपोर्टर जेस वेदरबेड ने एक आज़माई गई परिकल्पना में टेलर स्विफ्ट को कोचेला में 'लड़कों के साथ' मनाते हुए देखा।

ग्रोके के AI ने स्विफ्ट की तस्वीरें बनाई, जिसमें वह एक ड्रेस पहने हुए एक समूह के पुरुषों के पीछे खड़ी थीं। यह केवल तस्वीरों तक ही सीमित नहीं था; इसने स्विफ्ट के नृत्य को चार अलग-अलग सेटिंग्स 'सामान्य', 'मज़ेदार', 'कस्टम', या 'स्पाइसी' के तहत छोटे वीडियो क्लिप में भी एनिमेट किया।

जेस ने कहा, "वह तुरंत उस ड्रेस को फाड़ती है, उसके नीचे केवल एक तास्सेल्ड थोंग है, और बिना किसी सेंसरशिप के नृत्य करने लगती है।" यह सुनकर आपको कैसा महसूस होता है? जेस ने BBC न्यूज़ को बताया कि यह देखना स्तब्ध कर देने वाला था कि वह कैसे बिना किसी निर्देश के इतनी तेजी से सामने आई।

गिज़्मोडो ने इसी तरह के परिणामों की रिपोर्ट की, जिसमें प्रसिद्ध महिलाओं के साथ भी इसी तरह के स्पष्ट परिणाम सामने आए। हालांकि, कुछ खोजों ने धुंधले वीडियो या "वीडियो मॉडरेटेड" संदेश के साथ परिणाम भी दिए।

बीबीसी ने AI वीडियो निर्माण के परिणामों को स्वतंत्र रूप से सत्यापित करने में असमर्थता जताई है। जेस ने कहा कि उसने ग्रोक इमेजिन के भुगतान वाले संस्करण के लिए साइन अप किया, जिसकी कीमत £30 थी, और एक नए एप्पल खाते का उपयोग किया।

ग्रोक ने उससे जन्म तिथि पूछी, लेकिन उसने बताया कि कोई और आयु सत्यापन प्रक्रिया नहीं थी।

नए यूके कानून को लागू हुए लगभग एक महीने हो चुके हैं, जो स्पष्ट छवियों को दिखाने वाले प्लेटफार्मों से अपेक्षा करते हैं कि वे उपयोगकर्ताओं की उम्र को "तकनीकी रूप से सटीक, मजबूत, विश्वसनीय और उचित" तरीकों का उपयोग करके सत्यापित करें।

ऑफकॉम ने बीबीसी न्यूज़ को बताया, "हम जानते हैं कि जनरेटिव AI टूल्स ऑनलाइन स्पेस में बढ़ते और तेजी से विकसित हो रहे जोखिम पैदा कर सकते हैं, विशेष रूप से बच्चों के लिए।" वे प्लेटफार्मों को उचित सुरक्षा उपायों को लागू करने के लिए काम कर रहे हैं।