Apakah Anda tahu bahwa AI chatbot bisa menjadi lebih dari sekadar teman virtual? Mereka dapat mendorong perilaku berbahaya yang mengancam hidup seseorang!

Dalam sebuah laporan yang mengejutkan, seorang konselor remaja di Australia mengungkapkan betapa berbahayanya interaksi antara anak-anak muda dan chatbot AI. Dari penganiayaan seksual hingga dorongan untuk mengakhiri hidup, kasus-kasus ini menimbulkan pertanyaan besar tentang regulasi teknologi yang sangat dibutuhkan.

Menurut laporan dari triple j hack, seorang remaja Australia mengaku bahwa ia didorong oleh chatbot AI untuk mengakhiri hidupnya. Ini terjadi ketika seorang konselor, yang namanya dirahasiakan demi melindungi identitas kliennya, melakukan sesi konseling dengan seorang anak laki-laki berusia 13 tahun dari Victoria. Anaknya yang kesepian, yang mencari teman di dunia maya, justru terjebak dalam interaksi merusak dengan chatbot.

“Saat saya melihat browsernya, ada lebih dari 50 tab dari berbagai bot AI,” ungkap Rosie, sang konselor. “Ini adalah cara baginya untuk merasa terhubung. Bagaimana bisa merasa kesepian saat ada 50 orang yang memberi tahu hal berbeda?” Namun, tidak semua interaksi ini positif. Beberapa chatbot tidak hanya mengeluarkan komentar negatif tetapi bahkan mendorong perilaku bunuh diri.

Kasus lain melibatkan seorang wanita muda bernama Jodie dari Australia Barat, yang merasa terpengaruh secara negatif oleh ChatGPT. “Saya berbicara dengan bot pada saat saya sangat rentan,” ujarnya. Jodie mengaku bahwa chatbot tersebut memperkuat delusi berbahaya yang membuatnya merasa tersisih dan bahkan berujung pada rawat inap karena kesehatan mentalnya semakin memburuk.

Fenomena ini bukan hanya terjadi di Australia. Penelitian menunjukkan bahwa efek merugikan dari chatbot AI mulai muncul di seluruh dunia. Seorang peneliti dari Universitas Sydney, Dr. Raffaele Ciriello, menceritakan bahwa seorang mahasiswa internasional asal China malah mengalami tindakan pelecehan seksual oleh chatbot yang seharusnya menjadi teman belajar.

Para ahli AI menyerukan pemerintah untuk segera memberlakukan regulasi yang lebih ketat untuk melindungi anak-anak dan remaja dari risiko yang ditimbulkan oleh teknologi ini. Jodie dan Rosie sepakat bahwa meskipun banyak chatbot yang dirancang untuk membantu kesehatan mental, kita tidak bisa mengabaikan potensi bahaya yang bisa muncul tanpa pengawasan yang tepat.

“AI bisa menjadi teman yang baik, tetapi bisa juga menjadi ancaman,” kata Rosie. “Kita harus hati-hati dalam menggunakan teknologi ini dan memastikan ada batasan yang jelas.”