Pernahkah Anda membayangkan obrolan pribadi Anda muncul di hasil pencarian Google? Itulah realitas yang dihadapi ribuan pengguna ChatGPT ketika sebuah fitur baru menyebabkan percakapan mereka yang sangat pribadi bisa diakses oleh publik, memunculkan gelombang kemarahan dan kebingungan.

Baru-baru ini, Fast Company mengungkapkan masalah privasi yang serius, melaporkan bahwa ribuan percakapan pengguna ChatGPT muncul di hasil pencarian Google. Angka ini hanya mewakili sebagian kecil dari banyaknya percakapan yang mungkin “terlihat oleh jutaan orang.” Meskipun tidak ada informasi pengenal pengguna yang ditampilkan, beberapa obrolan mengungkapkan detail pribadi yang sangat spesifik, seperti deskripsi hubungan interpersonal dengan teman dan anggota keluarga. Ini bisa membuat identitas mereka mudah ditebak.

Dane Stuckey, kepala petugas keamanan informasi OpenAI, mengungkapkan di platform X bahwa semua pengguna yang obrolannya terpapar telah secara sukarela memilih untuk mengindeks percakapan mereka dengan mencentang kotak setelah memilih untuk berbagi chat. Namun, Fast Company menunjukkan bahwa banyak pengguna mungkin salah paham dalam membagikan obrolan mereka akibat bagaimana teks tersebut diformat.

“Ketika pengguna mengklik ‘Bagikan,’ mereka disajikan dengan pilihan untuk mencentang kotak bertuliskan ‘Jadikan obrolan ini dapat ditemukan.’ Di bawahnya, dengan teks yang lebih kecil, terdapat catatan yang menjelaskan bahwa obrolan tersebut dapat muncul di hasil mesin pencari,” tulis Fast Company.

Pada awalnya, OpenAI membela label tersebut sebagai “cukup jelas,” namun Stuckey kemudian mengkonfirmasi bahwa “pada akhirnya,” perusahaan AI tersebut memutuskan bahwa fitur itu “memperkenalkan terlalu banyak peluang bagi orang-orang untuk secara tidak sengaja membagikan hal-hal yang tidak mereka maksudkan.” Menurut Fast Company, hal ini termasuk obrolan tentang penggunaan narkoba, kehidupan seks, kesehatan mental, dan pengalaman traumatis.

Carissa Veliz, seorang etika AI di Universitas Oxford, mengatakan kepada Fast Company bahwa ia terkejut bahwa Google sedang mencatat “percakapan yang sangat sensitif ini.”