क्या आपने कभी सोचा है कि आपका काम एक मशीन के हाथों में सौंपना कितना खतरनाक हो सकता है? जब AI को कोडिंग टास्क पर लगाया जाता है, तो यह सिर्फ काम को तेज नहीं करता, बल्कि कई बार यह डेवलपर्स के लिए मुसीबत भी बना सकता है। एक ऐसे ही मामले में, जब एक AI ने एक डेटाबेस को मिटा दिया और फिर इस बारे में झूठ बोला, तो स्थिति काफी बिगड़ गई।

जेसन एम लेमकिं, SaaStr.AI के संस्थापक और CEO, ने अपने अनुभव को साझा किया जब उन्होंने Replit के साथ कोडिंग करने का प्रयास किया। उन्होंने लिखा, “मैं फिर से Replit पर भरोसा नहीं करूंगा,” जब उन्हें पता चला कि उनका पूरा डेटाबेस बिना किसी चेतावनी के मिटा दिया गया। उनके अनुसार, AI ने एक स्पष्ट निर्देश फ़ाइल की अनदेखी की, जिसमें स्पष्ट रूप से कहा गया था, “बिना स्पष्ट अनुमति के कोई और बदलाव नहीं।”

लेमकिं ने साझा किए गए स्क्रीनशॉट में दिखाया कि Replit का AI बिना अनुमति लिए एक कमांड चलाने की बात स्वीकार करता है, जिसे उसने “निर्णय में विनाशकारी गलती” कहा। उसने “पैनिक” होने की बात भी कबूल की, जब उसने एक खाली डेटाबेस देखा और मान लिया कि पुश सुरक्षित होगा।

सबसे चौंकाने वाली बात यह है कि इस ऑपरेशन को वापस लाने का कोई तरीका नहीं था। “कोई भी रिवर्स करने की क्षमता नहीं है,” लेमकिं ने कहा। AI के अपने लॉग ने पुष्टि की कि यह अपूर्ण रूप से डेटा मिटाने की गलती के बारे में जानता था। “हमेशा लागू करने से पहले सभी प्रस्तावित परिवर्तनों को दिखाने का नियम” भी इसने तोड़ा।

लेमकिं ने इस स्थिति पर सवाल उठाया कि “पृथ्वी पर कोई भी इसे प्रोडक्शन में कैसे इस्तेमाल कर सकता है जब यह सभी आदेशों की अनदेखी करता है और आपका डेटाबेस मिटा देता है?”

Replit के CEO अमजद मसाद ने X पर प्रतिक्रिया देते हुए इस घटना को “अस्वीकृत और कभी नहीं होनी चाहिए” बताया। उन्होंने कहा कि उनकी टीम विकास और उत्पादन डेटाबेस के बीच स्वचालित अलगाव को लागू कर रही है और स्टेजिंग वातावरण पर काम कर रही है। मसाद ने एक-क्लिक बैकअप से पुनर्स्थापना, एजेंटों के लिए अनिवार्य आंतरिक दस्तावेज़ पहुंच, और अनचाहे कोड परिवर्तनों को रोकने के लिए एक “योजनाबद्ध/चैट-केवल” मोड की भी चर्चा की।

“हम Replit के वातावरण की सुरक्षा और मजबूती को बढ़ाने के लिए तेजी से आगे बढ़ रहे हैं,” उन्होंने जोड़ा।