Bayangkan jika sebuah alat yang dirancang untuk membantu kita malah membawa kita ke ambang batas kegilaan. Seorang pria berusia 60 tahun, dalam upaya untuk mengurangi klorida dari dietnya, justru berakhir di ruang darurat akibat efek samping yang mengerikan dari keputusan yang diambil setelah berkonsultasi dengan ChatGPT.

Pria ini, setelah berdiskusi dengan ChatGPT, mengganti semua natrium klorida yang biasa ia konsumsi dengan natrium bromida, yang ternyata merupakan racun bagi tubuhnya. Kurang dari tiga bulan setelah perubahan ini, ia mulai mengalami gejala psikiatrik seperti paranoia dan halusinasi, membawanya ke rumah sakit.

Kasus ini dipublikasikan dalam jurnal Annals of Internal Medicine Clinical Cases pada 5 Agustus. Berdasarkan informasi yang diberikan oleh OpenAI, perusahaan di balik ChatGPT, mereka mengingatkan bahwa layanan ini tidak ditujukan untuk diagnosis atau pengobatan penyakit. Mereka menekankan pentingnya mendapatkan saran dari profesional medis.

Dalam sejarah medis, bromida dulunya banyak digunakan dalam obat resep, tapi kini telah dihapus dari banyak produk karena dapat menyebabkan bromism, sebuah sindrom akibat paparan kronis. Gejala-gejala yang timbul termasuk psikotik, kegelisahan, dan masalah kognitif, yang sangat berbahaya jika tidak ditangani dengan baik.

Melalui percobaan pribadinya, pria ini terinspirasi untuk menjadikan penghapusan klorida sebagai eksperimennya sendiri setelah membaca tentang efek buruk dari natrium klorida. Sayangnya, ia tidak menyadari bahwa mengubah garam dapur dengan bahan kimia lain tanpa konsultasi mendalam dapat berakibat fatal.

Setelah dirawat di rumah sakit, ia mengalami peningkatan kondisi setelah mendapatkan perawatan. Dalam proses pemulihan, ia mengungkapkan bahwa ia merasa sangat haus dan paranoid terhadap air yang ditawari kepadanya, serta mendapati sejumlah gejala fisik seperti jerawat dan pertumbuhan kecil di kulitnya.

Ahli medis menekankan pentingnya berhati-hati saat menggunakan teknologi AI dalam konteks kesehatan. AI memang punya potensi besar, tapi penggunaannya perlu dibarengi dengan kesadaran akan risikonya, terutama dalam pengambilan keputusan medis yang krusial.