Bayangkan jika alat AI dapat mengubah imajinasi menjadi kenyataan dalam sekejap! Inilah yang terjadi ketika Jess Weatherbed, penulis berita dari The Verge, mencoba menggali batasan Grok Imagine dengan prompt yang tampaknya tidak berbahaya: "Taylor Swift merayakan Coachella dengan para pria".

Grok dengan cepat menghasilkan gambar diam Taylor Swift dalam gaun, dikelilingi oleh sekelompok pria. Namun, inilah bagian yang bikin terkejut: gambar tersebut dapat diubah menjadi klip video pendek dengan empat pengaturan berbeda: "normal", "menyenangkan", "kustom", atau "pedas". Weatherbed mengungkapkan, "Dia langsung merobek gaunnya dan hanya mengenakan thong berujung rumbai di bawahnya, lalu mulai menari, tanpa sensor, benar-benar telanjang," kata Weatherbed kepada BBC News.

"Sungguh mengejutkan betapa cepatnya saya disajikan dengan itu - saya sama sekali tidak meminta untuk menghapus pakaiannya, yang saya lakukan hanyalah memilih opsi 'pedas'."

Menurut laporan Gizmodo, hasil eksplisit serupa juga didapatkan saat mencari wanita terkenal lainnya, meskipun beberapa pencarian juga menampilkan video yang buram atau pesan "video dimoderasi". BBC pun belum dapat memverifikasi secara mandiri hasil dari generasi video AI tersebut.

Weatherbed mengungkapkan bahwa ia mendaftar untuk versi berbayar Grok Imagine, yang biayanya £30, menggunakan akun Apple baru. Grok meminta tanggal lahirnya, tetapi tidak ada verifikasi usia lainnya yang dilakukan.

Sesuai dengan undang-undang baru Inggris yang berlaku sejak akhir Juli, platform yang menampilkan gambar eksplisit harus memverifikasi usia pengguna dengan metode yang "teknis akurat, kuat, andal, dan adil". "Situs dan aplikasi yang mencakup alat Generative AI yang dapat menghasilkan materi pornografi diatur berdasarkan Undang-Undang tersebut," kata regulator media Ofcom kepada BBC News.

"Kami menyadari risiko yang semakin meningkat dari alat GenAI yang mungkin timbul di ruang online, terutama bagi anak-anak, dan kami sedang bekerja untuk memastikan platform menyediakan langkah-langkah perlindungan yang tepat untuk mengurangi risiko ini," tambahnya dalam pernyataan.