Bayangkan seorang pria berusia 60 tahun di New York, yang hanya mengikuti saran dari ChatGPT dan berakhir di rumah sakit! Mungkin ini terdengar seperti plot film horor, tetapi ini adalah kenyataan yang mengejutkan yang terjadi baru-baru ini.

Pria tersebut dirawat di rumah sakit setelah mengikuti regimen pengurangan garam yang sangat ketat yang disarankan oleh ChatGPT. Dokter mengungkapkan bahwa pria ini menghilangkan sodium dari dietnya hingga hampir nol selama beberapa minggu, yang menyebabkan kadar sodium dalam darahnya turun drastis, kondisi yang dikenal sebagai hiponatremia. Keluarganya menyebutkan bahwa dia mempercayai rencana kesehatan yang dihasilkan oleh AI ini tanpa berkonsultasi dengan dokter.

Kasus ini dipublikasikan dalam jurnal American College of Physicians dan menyoroti risiko menggunakan saran kesehatan dari AI tanpa pengawasan profesional, terutama ketika menyangkut nutrisi penting seperti sodium. Beruntung, pria tersebut pulih setelah menghabiskan tiga minggu di rumah sakit.

Menurut laporan tersebut, pria ini bertanya kepada ChatGPT tentang cara menghilangkan natrium klorida (yang dikenal sebagai garam meja) dari dietnya. Alat AI itu menyarankan penggunaan sodium bromida sebagai pengganti. Sodium bromida adalah senyawa yang pernah digunakan dalam obat-obatan awal abad ke-20, tetapi sekarang diakui sebagai racun dalam dosis besar.

Bertindak berdasarkan saran ini, pria tersebut membeli sodium bromida secara daring dan menggunakannya dalam masakannya selama tiga bulan. Tanpa sejarah penyakit mental atau fisik sebelumnya, pria ini mulai mengalami halusinasi, paranoia, dan rasa haus yang ekstrem. Saat masuk rumah sakit, ia menunjukkan kebingungan dan bahkan menolak air, takut akan kontaminasi.

Dokter mendiagnosisnya dengan keracunan bromida, kondisi yang sekarang hampir tidak terdengar, tetapi dulu umum ketika bromida diresepkan untuk kecemasan, insomnia, dan gangguan lainnya. Dia juga menunjukkan gejala neurologis, ruam kulit mirip jerawat, dan bercak merah khas yang dikenal sebagai angioma ceri, semua tanda klasik dari bromisme.

Perawatan di rumah sakit difokuskan pada hidrasi dan mengembalikan keseimbangan elektrolit. Selama tiga minggu, kondisi pria tersebut perlahan-lahan membaik, dan akhirnya dia dipulangkan setelah kadar sodium dan kloridanya kembali normal.

Penulis studi kasus ini menekankan risiko meningkatnya disinformasi kesehatan dari alat AI. "Penting untuk mempertimbangkan bahwa ChatGPT dan sistem AI lainnya dapat menghasilkan ketidakakuratan ilmiah, tidak dapat mendiskusikan hasil secara kritis, dan pada akhirnya memperburuk penyebaran disinformasi," peringatan dalam laporan tersebut. OpenAI, pengembang ChatGPT, secara tegas menyatakan dalam Ketentuan Penggunaan bahwa "Anda tidak boleh mengandalkan Output dari Layanan kami sebagai satu-satunya sumber kebenaran atau informasi faktual, atau sebagai pengganti nasihat profesional." Ketentuan tersebut juga menjelaskan bahwa layanan ini tidak dimaksudkan untuk mendiagnosis atau mengobati kondisi medis.

Kasus ini menyoroti kebutuhan mendesak akan pemikiran kritis ketika menginterpretasikan saran yang dihasilkan oleh AI, terutama yang berkaitan dengan kesehatan. Para ahli mengatakan bahwa alat AI dapat bermanfaat untuk informasi umum tetapi tidak boleh menggantikan konsultasi profesional. Seiring dengan meningkatnya adopsi AI, begitu pula tanggung jawab untuk memastikan bahwa hasilnya akurat, aman, dan dipahami dengan jelas oleh publik.