Ketika kita berpikir tentang kemajuan teknologi, bagaimana jika saya katakan bahwa ada alat baru yang dapat menciptakan video dan gambar dari orang-orang terkenal, bahkan tanpa persetujuan mereka? Ya, inilah yang terjadi dengan peluncuran Grok Imagine, alat AI terbaru dari Elon Musk yang bisa membuat konten dewasa dengan mudah dan tanpa batasan!

Grok Imagine diluncurkan pada Selasa pagi dan langsung membuat gelombang karena salah satu mode ‘spicy’-nya yang mampu menghasilkan gambar sugestif hingga telanjang. Dengan alat ini, Anda bisa membuat video porno palsu dari siapa saja yang cukup terkenal, dan sayangnya, tampaknya lebih banyak menghasilkan konten dewasa untuk perempuan. Musk pun membanggakan bahwa dalam sehari setelah peluncurannya, lebih dari 34 juta gambar dihasilkan!

Ini menjadi perhatian besar mengingat masyarakat semakin menuntut perusahaan-perusahaan untuk menjaga agar konten dewasa tidak merusak anak-anak. Misalnya, akhir bulan lalu, Inggris mulai menerapkan aturan pembatasan usia yang mengharuskan platform seperti X dan lainnya untuk memblokir konten seksual untuk pengguna di bawah 18 tahun. Namun, di tengah hiruk-pikuk ini, Grok justru meluncurkan fitur yang berpotensi menjadi masalah besar bagi banyak orang.

Deepfake pornografi adalah bentuk gambar intim non-konsensual yang secara hukum ilegal untuk diterbitkan di AS berdasarkan Undang-Undang Take It Down, yang ditandatangani oleh mantan Presiden Trump. RAINN, jaringan yang menangani pelecehan seksual, menyebut fitur Grok sebagai “bagian dari masalah yang terus berkembang mengenai pelecehan seksual berbasis gambar.” Mereka dengan sinis mengatakan Grok jelas “tidak menerima memo” tentang undang-undang baru ini.

Mary Anne Franks, seorang profesor di George Washington University, menjelaskan bahwa Grok sebenarnya bisa lolos dari tanggung jawab hukum karena definisi ‘publikasi’ dalam undang-undang tersebut tidak jelas. Jika Grok hanya memungkinkan pengguna untuk melihat video yang mereka buat, maka mereka mungkin tidak dianggap melanggar hukum.

Namun, tantangan yang lebih besar adalah bagaimana regulasi gagal menegakkan hukum terhadap perusahaan besar yang beroperasi di luar batas. Meskipun ada undang-undang yang menargetkan konten dewasa, banyak dari perusahaan ini masih bebas melanggar tanpa konsekuensi yang berarti. Musk, dengan kekuatan politik yang dimilikinya, kemungkinan besar tidak akan menghadapi investigasi meskipun Grok melanggar aturan tersebut.

Di luar pemerintah, ada banyak pengawas yang menentukan apa yang dapat diterima di platform, dan seringkali mereka memiliki pandangan negatif tentang seks. Sementara itu, alat ini dapat dengan cepat menghasilkan konten yang berpotensi merugikan banyak orang tanpa batasan yang memadai. Jika Anda berpikir bahwa internet akan lebih aman, Grok menunjukkan sebaliknya. Sementara platform kecil ditekan untuk menghapus media yang bersifat dewasa, perusahaan yang dipimpin miliarder dapat menghasilkan uang dari sesuatu yang dalam beberapa keadaan bisa dianggap ilegal.

Di akhir perjalanan ini, kita perlu bertanya: Apakah kemajuan teknologi ini benar-benar membawa kita ke arah yang lebih baik, atau justru membahayakan kita lebih jauh? Di tahun 2025, sepertinya seks tidak lagi ada di internet, dan yang nyata adalah bahwa semua ini kembali kepada kekuasaan.