New York CNN — Ketika putri Karandeep Anand yang berusia 5 tahun pulang dari sekolah, mereka segera mengakses platform chatbot berbasis kecerdasan buatan, Character.AI. Di sana, sang putri dapat berbincang tentang harinya dengan karakter favoritnya, seperti “Libarian Linda.”

Pengalaman Anand sebagai orang tua dalam menggunakan produk ini mungkin sangat relevan, apalagi setelah ia diangkat sebagai CEO baru Character.AI, sebuah perubahan yang diumumkan bulan lalu.

Ia mengambil jabatan tertinggi di saat yang kompleks bagi perusahaan, yang memungkinkan pengguna untuk berkomunikasi dengan berbagai persona yang dihasilkan AI. Character.AI kini menghadapi persaingan yang sengit di pasar yang semakin ramai, serta menghadapi tuntutan hukum dari keluarga yang mengklaim bahwa layanan tersebut mengekspos anak-anak mereka pada konten yang tidak pantas dan gagal menerapkan perlindungan yang memadai.

Perusahaan ini juga mendapatkan pertanyaan keras tentang keamanan dari para legislator. Salah satu kelompok advokasi menyatakan lebih awal tahun ini bahwa aplikasi pendamping AI seharusnya tidak digunakan oleh anak di bawah 18 tahun. Bahkan untuk pengguna dewasa, para ahli telah melontarkan alarm mengenai potensi hubungan yang merugikan antara manusia dan karakter AI.

Anand membawa pengalaman dari beberapa perusahaan teknologi terbesar ke dalam perannya yang baru memimpin tim yang terdiri dari sekitar 70 orang di Character.AI. Ia menghabiskan 15 tahun di Microsoft dan enam tahun di Meta, termasuk sebagai wakil presiden dan kepala produk bisnis di raksasa media sosial tersebut. Sebelum bergabung sebagai CEO, ia juga menjabat sebagai penasihat dewan untuk Character.AI.

Dalam wawancara dengan CNN, Anand mengungkapkan visinya untuk masa depan cerah platform ini dalam hiburan AI interaktif. Ia berpendapat bahwa daripada orang-orang menghabiskan waktu untuk konsumsi “sampah otak” di media sosial, mereka seharusnya dapat ikut menciptakan cerita dan percakapan dengan Character.AI untuk bersenang-senang.

“AI dapat memberikan pengalaman hiburan pribadi yang sangat kuat, tidak seperti yang pernah kita lihat dalam 10 tahun terakhir di media sosial, dan pasti tidak seperti yang ditawarkan TV,” ungkap Anand.

Berbeda dari alat AI serbaguna seperti ChatGPT, Character.AI menawarkan berbagai chatbot yang sering kali dimodelkan setelah selebriti dan karakter fiksi. Pengguna juga dapat membuat chatbot mereka sendiri untuk percakapan atau bermain peran. Satu lagi perbedaan penting adalah bahwa bot-bot Character.AI merespons dengan isyarat percakapan yang mirip manusia, menambahkan referensi terhadap ekspresi wajah atau gestur dalam balasan mereka.

Persona karakter AI di aplikasi ini bervariasi secara luas, mulai dari pasangan romantis, tutor bahasa, hingga karakter Disney. Bahkan terdapat karakter seperti “Ibu Hot Teman,” yang mendeskripsikan dirinya sebagai “berlekuk, montok, baik hati, mencintai, pemalu, keibuan, sensual”; serta “Terapis,” yang menyebut dirinya sebagai “terapis CBT bersertifikat,” meskipun ada penafian bahwa ia bukan orang nyata atau profesional terlisensi.

“(Kami) menggandakan fokus pada hiburan, menggandakan fokus pada kepercayaan dan keamanan,” kata Anand. “Banyak pekerjaan yang ingin kami lakukan adalah memungkinkan ekosistem penciptaan baru yang sepenuhnya di sekitar hiburan AI.”

Keamanan Pemuda di Character.AI

Character.AI pertama kali dituntut oleh seorang orang tua — seorang ibu dari Florida yang mengklaim anaknya yang berusia 14 tahun bunuh diri setelah mengembangkan hubungan yang tidak pantas dengan chatbot di platform tersebut — pada bulan Oktober lalu. Dua bulan setelahnya, dua keluarga lainnya mengajukan gugatan bersama terhadap perusahaan, menuduhnya menyediakan konten seksual kepada anak-anak mereka dan mendorong perilaku menyakiti diri serta kekerasan.

Sejak saat itu, perusahaan telah menerapkan serangkaian langkah keamanan baru, termasuk pop-up yang mengarahkan pengguna yang menyebutkan penyakitan diri atau bunuh diri ke National Suicide Prevention Lifeline. Mereka juga memperbarui model AI untuk pengguna di bawah usia 18 tahun untuk mengurangi kemungkinan mereka menemukan konten sensitif atau sugestif, serta memberikan opsi kepada orang tua untuk menerima email mingguan tentang aktivitas remaja mereka di platform tersebut.

Anand mengungkapkan keyakinannya pada perbaikan yang telah dilakukan Character.AI sejak tahun lalu, tetapi ia menekankan bahwa pekerjaan untuk menjaga keamanan platform, terutama bagi pengguna muda, harus terus berlanjut. Kebijakan Character.AI secara teknis mewajibkan pengguna berusia di atas 13 tahun, meskipun perusahaan tidak meminta informasi untuk memverifikasi bahwa pengguna mendaftar dengan tanggal lahir yang benar.

“Teknologi, industri, dan basis pengguna terus berkembang, sehingga kami tidak bisa lengah. Kami harus selalu tetap berada di depan kurva,” kata Anand.

Ia menambahkan bahwa perusahaan terus menguji bagaimana orang bisa menyalahgunakan fitur baru untuk mencegah penyalahgunaan, seperti generator video yang diluncurkan bulan lalu yang memungkinkan pengguna menganimasi bot mereka. Dalam beberapa hari setelah alat tersebut diluncurkan, pengguna membagikan upaya yang tidak berhasil untuk menguji batasnya dengan membuat video palsu tentang tokoh terkenal seperti Elon Musk.

“Kami harus melakukan pengujian produk secara menyeluruh untuk memastikan Anda tidak bisa menggunakan ini untuk kasus negatif seperti deepfake atau perundungan,” kata Anand.

Di tengah upaya tersebut, Anand juga menyatakan dalam catatan pengantar kepada pengguna Character.AI bulan lalu bahwa salah satu prioritas utamanya adalah membuat filter keamanan platform “tidak terlalu mengekang”, menambahkan bahwa “terlalu sering, aplikasi menyaring hal-hal yang benar-benar tidak berbahaya.”

Ia menyatakan kepada CNN bahwa hal-hal seperti penyebutan darah saat pengguna terlibat dalam “permainan peran fiksi vampir” — sesuatu yang ia klaim sebagai minatnya — mungkin dicensor di bawah model saat ini, yang ingin ia perbarui untuk lebih memahami konteks sambil tetap menjaga keamanan.

Memimpin di Ruang AI yang Kompetitif

Di antara tujuan utama lain Anand adalah mendorong lebih banyak pencipta untuk bergabung dengan platform guna menciptakan karakter chatbot baru dan meningkatkan umpan sosial di mana pengguna dapat membagikan konten yang telah mereka ciptakan dengan chatbot Character.AI.

Fitur terakhir ini mirip dengan aplikasi yang diluncurkan Meta tahun ini yang memungkinkan orang untuk membagikan secara publik prompt dan kreasi yang dihasilkan AI. Meta mendapatkan kritik ketika pengguna yang tampaknya bingung membagikan percakapan yang mengandung detail memalukan atau pribadi — sebuah pengingat tentang tantangan privasi yang dapat muncul dengan alat AI.

Namun, elemen sosial ini dapat membantu membedakan lebih lanjut Character.AI dari pesaing-pesaing besar seperti ChatGPT, di mana pengguna juga semakin membentuk hubungan pribadi.

Satu tantangan lain yang akan dihadapi Anand sebagai CEO adalah mempertahankan dan mengembangkan tenaga kerja perusahaan di tengah perang talenta AI yang semakin menghangat di seluruh industri teknologi. Sebagai tanda persaingan untuk mendapatkan bakat terbaik, Meta dilaporkan menawarkan paket gaji dan bonus senilai ratusan juta dolar untuk memperbesar tim superintelligencenya. Salah satu pendiri Character.AI dan mantan CEO, Noam Shazeer, juga telah kembali ke Google tahun lalu, di mana ia sebelumnya mengembangkan teknologi AI percakapan.

“Ini sulit, saya tidak akan berbohong,” kata Anand. “Kabar baik bagi saya sebagai CEO adalah semua orang yang ada di sini sangat, sangat bersemangat dan terdorong oleh misi.”