Pada tahun 2021, Christopher Pelkey ditembak dan dibunuh dalam insiden kemarahan di jalanan. Pada tanggal 8 Mei 2025, dalam sidang penjatuhan hukuman bagi pembunuhnya, sebuah video rekonstruksi AI dari Pelkey menyampaikan pernyataan dampak korban. Hakim pengadilan melaporkan bahwa dia sangat terharu oleh penampilan ini dan menjatuhkan hukuman maksimal untuk pembunuhan tidak sengaja.

Sebagai bagian dari upacara untuk memperingati tahun ke-77 kemerdekaan Israel pada tanggal 30 April 2025, pejabat setempat merencanakan sebuah konser yang menampilkan empat penyanyi ikonik Israel. Sayangnya, semua penyanyi tersebut telah meninggal bertahun-tahun yang lalu. Rencananya adalah untuk menghidupkan mereka kembali menggunakan suara dan video yang dihasilkan oleh AI. Para penyanyi yang telah tiada ini diharapkan dapat bernyanyi bersama Yardena Arazi, seorang artis terkenal yang masih hidup. Namun, pada akhirnya Arazi membatalkan partisipasinya, mengacu pada suasana politik yang tidak mendukung, dan acara tersebut akhirnya tidak terlaksana.

Pada bulan April, BBC menciptakan versi deepfake dari penulis misteri terkenal Agatha Christie untuk mengajar kursus “maestro menulis.” Agatha tiruan ini akan menginstruksikan penulis muda yang bercita-cita tinggi dan “menginspirasi” perjalanan menulis mereka.

Penggunaan kecerdasan buatan untuk “menghidupkan kembali” orang-orang yang telah tiada untuk berbagai tujuan dengan cepat mendapatkan perhatian. Selama beberapa tahun terakhir, kami telah mempelajari implikasi moral dari AI di Pusat Etika Terapan di Universitas Massachusetts, Boston, dan kami menemukan bahwa reanimasi AI ini memiliki masalah moral yang signifikan.

Sebelum kita membahas tantangan moral yang ditimbulkan teknologi ini, penting untuk membedakan antara reanimasi AI, atau deepfakes, dari yang disebut griefbots. Griefbots adalah chatbot yang dilatih dengan data besar yang ditinggalkan oleh orang yang telah tiada – seperti posting media sosial, teks, email, dan video. Chatbot ini meniru cara berkomunikasi orang yang telah meninggal dan dimaksudkan untuk memudahkan kehidupan bagi kerabat yang masih hidup. Deepfakes yang sedang kita diskusikan di sini memiliki tujuan lain; mereka dimaksudkan untuk mempromosikan tujuan hukum, politik, dan pendidikan.

Tantangan Moral

Pertanyaan moral pertama yang ditimbulkan teknologi ini berkaitan dengan persetujuan: Apakah orang yang telah tiada akan setuju untuk melakukan apa yang dilakukannya? Apakah penyanyi Israel yang telah meninggal ingin bernyanyi di sebuah upacara peringatan kemerdekaan yang diselenggarakan oleh pemerintah negara saat ini? Apakah Pelkey, korban kemarahan di jalanan, akan nyaman dengan naskah yang ditulis keluarganya untuk avatar yang ia wakili? Apa pendapat Christie tentang tiruan AI-nya yang mengajar kelas tersebut?

Jawaban atas pertanyaan-pertanyaan ini hanya dapat disimpulkan secara sirkumstansial – dengan memeriksa jenis hal yang dilakukan oleh orang-orang yang telah tiada dan pandangan yang mereka ungkapkan semasa hidup. Dan satu dapat bertanya apakah jawaban tersebut bahkan penting. Jika mereka yang mengelola harta warisan setuju dengan reanimasi tersebut, bukankah itu berarti pertanyaan tersebut sudah terjawab? Lagi pula, para pengurus tersebut adalah wakil hukum dari orang yang telah tiada.

Tetapi, selain pertanyaan tentang persetujuan, satu pertanyaan yang lebih mendasar tetap ada.

Apa yang dilakukan reanimasi ini terhadap warisan dan reputasi orang-orang yang telah tiada? Bukankah reputasi mereka, sampai batas tertentu, tergantung pada kelangkaan penampilan, pada fakta bahwa orang yang telah meninggal tidak dapat muncul lagi? Kematian bisa memiliki efek positif pada reputasi orang-orang terkenal; itu baik bagi John F. Kennedy, dan itu juga baik bagi Perdana Menteri Israel Yitzhak Rabin.

Pemimpin Athena dari abad kelima SM, Pericles, memahami hal ini dengan baik. Dalam Orasi Pemakamannya yang terkenal, yang disampaikan pada akhir tahun pertama Perang Peloponnesia, ia menyatakan bahwa kematian yang mulia dapat mengangkat reputasi seseorang dan menghapus kesalahan kecil mereka. Hal ini karena orang yang telah tiada berada di luar jangkauan dan mistik mereka tumbuh pasca kematian. “Bahkan kebajikan yang ekstrem pun nyaris tidak akan memberi Anda reputasi yang setara” dengan yang dimiliki oleh orang yang telah tiada, ia menegaskan.

Apakah reanimasi AI merendahkan nilai orang yang telah tiada dengan memaksa mereka untuk terus-menerus muncul? Apakah mereka merusak dan mengganggu reputasi mereka dengan mengharuskan mereka untuk memberikan komentar tentang peristiwa yang terjadi jauh setelah kematian mereka?

Selain itu, representasi AI ini bisa menjadi alat yang sangat kuat untuk mempengaruhi audiens untuk tujuan politik atau hukum. Menghidupkan kembali penyanyi yang populer untuk melegitimasi sebuah acara politik dan mereanimasi seorang korban yang telah tiada untuk memberikan kesaksian adalah tindakan yang dimaksudkan untuk memengaruhi penilaian audiens.

Adalah satu hal untuk menyalurkan Churchill atau Roosevelt selama pidato politik dengan mengutip mereka atau bahkan mencoba terdengar seperti mereka. Namun, adalah hal lain untuk memiliki “mereka” berbicara di samping Anda. Potensi untuk memanfaatkan nostalgia sangat ditingkatkan oleh teknologi ini. Bayangkan, misalnya, apa yang akan dilakukan Soviet, yang secara harfiah menyembah tubuh Lenin yang telah tiada, dengan deep fake ikon lama mereka.

Niat Baik

Anda bisa berargumen bahwa karena reanimasi ini sangat menarik, mereka bisa digunakan untuk tujuan yang baik. Pertimbangkan reanimasi Martin Luther King Jr. yang berbicara kepada bangsa kita yang saat ini terpolarisasi dan terpecah belah, mendesak moderasi dan persatuan. Bukankah itu luar biasa? Atau bagaimana dengan reanimasi Mordechai Anielewicz, komandan pemberontakan Ghetto Warsawa, yang berbicara di persidangan seorang penyangkal Holokaus seperti David Irving?

Tetapi apakah kita tahu apa yang akan dipikirkan MLK tentang perpecahan politik kita saat ini? Apakah kita tahu apa yang akan dipikirkan Anielewicz tentang pembatasan ucapan yang berbahaya? Apakah dengan berani berkampanye untuk hak-hak sipil berarti kita harus memanggil hantu digital King untuk memberikan komentar tentang dampak populisme? Apakah dengan berani melawan Nazi berarti kita harus mengeluarkan bayangan AI dari seorang pahlawan lama untuk memberikan komentar tentang kebebasan berbicara di era digital?

Bahkan jika proyek politik yang dilayani oleh avatar AI ini konsisten dengan pandangan orang yang telah tiada, masalah manipulasi – dalam menggunakan kekuatan psikologis dari deepfakes untuk menarik emosi – tetap ada.

Tetapi bagaimana dengan melibatkan AI Agatha Christie untuk mengajarkan kelas menulis? Deep fakes mungkin memang memiliki penggunaan yang bermanfaat dalam konteks pendidikan. Kemiripan Christie bisa membuat siswa lebih antusias tentang menulis. Tiruan Aristoteles bisa meningkatkan peluang siswa untuk terlibat dengan Etika Nikomachean-nya yang ketat. AI Einstein bisa membantu mereka yang ingin belajar fisika memahami relativitas umum.

Namun, memproduksi tiruan ini datang dengan tanggung jawab yang besar. Setelah semua, mengingat betapa menariknya mereka, mungkin interaksi dengan representasi ini akan menjadi satu-satunya hal yang diperhatikan siswa, alih-alih sebagai pintu gerbang untuk mengeksplorasi subjek lebih lanjut.

Hidup dalam Ingatan

Dalam sebuah puisi yang ditulis untuk mengenang W.B. Yeats, W.H. Auden memberi tahu kita bahwa, setelah kematian penyair tersebut, Yeats “menjadi pengagumnya.” Ingatannya kini “tersebar di antara seratus kota,” dan karyanya dapat diinterpretasikan tanpa akhir: “kata-kata seorang yang telah tiada dimodifikasi dalam perut orang yang masih hidup.”

Orang yang telah tiada tetap hidup dalam banyak cara kita menginterpretasikan ulang kata-kata dan karya mereka. Auden melakukannya pada Yeats, dan kita melakukan hal yang sama pada Auden di sini. Inilah cara orang tetap terhubung dengan mereka yang telah pergi. Pada akhirnya, kami percaya bahwa menggunakan kemampuan teknologi untuk secara konkret menghidupkan mereka kembali tidak menghormati mereka dan, yang mungkin lebih penting, merupakan tindakan tidak menghormati diri kita sendiri – terhadap kapasitas kita untuk ber-abstraksi, berpikir, dan berimajinasi.