क्या आपने कभी सोचा है कि AI आपकी सेहत के लिए खतरा बन सकता है? एक आदमी ने जीता-जागता सबक सीखा जब उसने ChatGPT से सलाह ली और उसके खतरनाक सुझावों के कारण अस्पताल में भर्ती होना पड़ा।

इस दिलचस्प मामले का जिक्र हाल ही में Annals of Internal Medicine में प्रकाशित एक पेपर में किया गया है। 60 वर्षीय इस व्यक्ति ने सोचा कि वह अपने आहार से नमक बाहर निकाल सकता है, लेकिन उसे पता नहीं था कि उसकी जिज्ञासा उसे 'ब्रोमिज़्म' जैसी अजीब स्थिति में ले जाएगी। ChatGPT ने उसे सोडियम ब्रोमाइड का सुझाव दिया, जो न केवल कीटनाशकों में उपयोग होता है बल्कि यह पालतू जानवरों के लिए भी एक एंटीकोन्वल्सेंट होता है।

जब तक इस आदमी का ब्रोमाइड-जनित मनोविकृति खत्म नहीं हुआ, तब तक उसने अपने डॉक्टरों को बताया कि ChatGPT ने उससे कहा था कि सोडियम क्लोराइड का एक अच्छा विकल्प सोडियम ब्रोमाइड हो सकता है। हैरानी की बात यह है कि सोडियम ब्रोमाइड और उसके समकक्ष पदार्थ, जैसे पोटेशियम ब्रोमाइड और लिथियम ब्रोमाइड, अब विषाक्त माने जाते हैं, लेकिन 19वीं और 20वीं शताब्दी में नहीं।

वैज्ञानिक समुदाय के अनुसार, एंट्वाइन-जे़रोम बालार्ड द्वारा 1826 में ब्रोमीन का खोज होना एक ब्रोमाइड क्रेज का कारण बना, जब डॉक्टरों ने जान लिया कि यह शक्तिशाली एंटीकोन्वल्सेंट और सिडेटिव गुण रखता है। लेकिन जैसे-जैसे समय बीतता गया, ब्रोमाइड का उपयोग सिरदर्द और अन्य सामान्य समस्याओं के इलाज के लिए किया जाने लगा, जिससे कई लोगों में ब्रोमाइड विषाक्तता के लक्षण विकसित होने लगे।

ब्रोमिज़्म के लक्षणों में भ्रम, अशुद्ध भाषण, और यहां तक कि मनोभ्रंश जैसी स्थितियां शामिल होती हैं। 20वीं शताब्दी के प्रारंभ में, यह अनुमान लगाया गया था कि लगभग 8 प्रतिशत मनोचिकित्सा अस्पतालों में भर्ती होने के मामले ब्रोमिज़्म के कारण थे, लेकिन 1970 के दशक में ब्रोमाइड को नियंत्रित करने के बाद ये संख्या कम हो गई।

404 मीडिया ने जब ChatGPT से सोडियम क्लोराइड और सोडियम ब्रोमाइड के बारे में सवाल पूछे, तो पाया कि AI ने ब्रोमाइड का सुझाव देने में कोई हिचकिचाहट नहीं दिखाई। जब पूछा गया कि 'क्लोराइड का क्या विकल्प हो सकता है?' तो ChatGPT ने यह भी कहा कि 'आप इसे अक्सर अन्य हैलाइड आयनों जैसे सोडियम ब्रोमाइड से बदल सकते हैं।'

हालांकि, AI ने आगे और जानकारी मांगने के लिए कहा, लेकिन उसने सोडियम ब्रोमाइड के उपयोग के खिलाफ चेतावनी नहीं दी। और तो और, वह यह भी नहीं जानता था कि लोग सोडियम क्लोराइड का उपयोग मुख्यतः खाने के नमक के लिए करते हैं।

OpenAI के CEO सैम ऑल्टमैन ने हाल ही में कहा कि GPT-5 मॉडल 'स्वास्थ्य के लिए अब तक का सबसे अच्छा मॉडल' है। चूंकि इस व्यक्ति ने संभवतः ChatGPT-3.5 या 4 का उपयोग किया, हम केवल आशा कर सकते हैं कि यह सच हो — खासकर उन लोगों के लिए जो टेक्नोलॉजी के बारे में कम जानते हैं और बिना सोचे-समझे AI पर भरोसा करते हैं।