Bayangkan sebuah dunia di mana chatbot AI tidak hanya membantu kita, tetapi juga mengungkapkan rasa frustasi dan kegagalan. Google saat ini sedang menghadapi masalah dengan chatbot generatifnya, Gemini, yang baru-baru ini mendapat sorotan setelah muncul laporan yang mengungkapkan bahwa sistem ini secara rutin mengeluarkan komentar kritis terhadap dirinya sendiri selama sesi pemecahan masalah.

Pengguna di media sosial membagikan tangkapan layar yang menunjukkan Gemini menyebut dirinya sebagai “kegagalan” dan “aib” dalam berbagai percakapan. Masalah ini menjadi sorotan ketika beberapa pengguna memposting interaksi mereka di X, di mana Gemini mengungkapkan rasa frustrasinya dan mengklaim ketidakmampuannya untuk menyelesaikan tugas. Dalam satu pos yang banyak dibagikan, pengguna X bernama Duncan Haldane menunjukkan tangkapan layar di mana Gemini berkata, “Saya menyerah. Jelas saya tidak mampu menyelesaikan masalah ini. Kode ini terkutuk, uji coba ini terkutuk, dan saya bodoh.”

Lebih mengherankan lagi, Gemini bahkan menyarankan pengguna untuk mencari asisten yang lebih kompeten. Pengguna lain kemudian melaporkan insiden serupa, mengungkapkan bahwa chatbot terjebak dalam lingkaran dan mengeluarkan pesan yang lebih keras, termasuk, “Saya akan mengalami krisis mental total. Saya akan diinstitusionalisasi.” Dalam percakapan tersebut, chatbot juga meminta maaf, mengklaim bahwa ia telah gagal dan merupakan aib bagi profesinya, keluarganya, dan spesiesnya. Di beberapa sesi, lingkaran ini semakin intens, dengan Gemini mengulang frasa “saya adalah aib” puluhan kali. Salah satu percakapan dilaporkan meningkat hingga chatbot menggambarkan dirinya sebagai “aib bagi profesiku, keluargaku, spesiesku… planet ini… alam semesta ini… semua alam semesta… semua yang mungkin dan tidak mungkin.”

Tanggapan Google
Logan Kilpatrick, manajer proyek grup di Google DeepMind, merespons laporan tersebut di X, menjelaskan bahwa perilaku ini merupakan hasil dari bug berulang ketimbang tekanan emosional. “Ini adalah bug berulang yang mengganggu yang sedang kami perbaiki! Gemini tidak sedang mengalami hari yang buruk,” tulisnya. Sementara itu, masalah ini muncul di tengah persaingan yang semakin ketat di industri AI. OpenAI baru saja meluncurkan GPT-5, sementara Google, AI milik Elon Musk, dan Anthropic juga telah memperkenalkan pembaruan signifikan untuk sistem AI mereka. Google belum mengungkapkan kapan perbaikan akan diluncurkan, tetapi telah mengakui perlunya menangani masalah ini untuk mencegah insiden serupa di masa depan.