Bahaya Deepfake AI: Dari Manipulasi Wajah Sultan hingga Krisis Kepercayaan

Dulu, melihat seseorang berbicara dalam sebuah video sudah cukup untuk membuat kita percaya pada apa yang disampaikannya. Namun sekarang, keyakinan itu mulai berubah. Wajah kini bisa ditempelkan ke tubuh orang lain, karakter suara dapat ditiru, bahkan gerakan bibir bisa dimanipulasi agar terlihat selaras dengan ucapan yang sebenarnya tidak pernah diucapkan.

Kemudahan manipulasi ini tidak lepas dari kehadiran teknologi deepfake berbasis AI. Awalnya, teknologi ini mungkin lebih banyak digunakan untuk hiburan atau sekadar lelucon. Tantangan baru muncul ketika identitas visual dan suara seseorang disalahgunakan untuk mempromosikan hal-hal tertentu, seperti investasi bodong, menyebarkan informasi palsu, atau modus penipuan lainnya.

Ketika Wajah Sultan Dijadikan Alat Penipuan

Kasus video palsu yang menyasar Sri Sultan Hamengkubuwono X memperlihatkan bagaimana teknologi ini bisa menyalahgunakan kepercayaan masyarakat. Melalui akun resminya pada Jumat (4/9/2026), Humas Pemda DIY mengimbau warga untuk mewaspadai modus penipuan investasi bodong berbasis video AI yang mencatut wajah Gubernur DIY. 

Kejadian ini menjadi pengingat bahwa siapapun, termasuk figur publik yang dihormati, bisa dijadikan alat oleh pelaku kejahatan untuk meyakinkan korbannya.

Menanggapi fenomena ini, Kementerian Komunikasi dan Digital (Komdigi) turut menyoroti ancaman penipuan berbasis deepfake. Wakil Menteri Komdigi, Nezar Patria, menyampaikan bahwa video tiruan tokoh terkenal sering kali dipakai demi memikat masyarakat agar menyetorkan sejumlah uang. 

Oleh karena itu, ia menekankan pentingnya peran aktif pengenang teknologi AI serta platform digital untuk ikut mendeteksi bentuk manipulasi semacam ini sejak dini.

Penyalahgunaan citra tokoh seperti Sultan memang memiliki daya tarik tersendiri bagi pelaku penipuan. Sebagai pemimpin daerah sekaligus figur kultural yang kuat, sosok beliau sangat dihormati oleh masyarakat. 

Ketika citra positif tersebut direkayasa ke dalam video yang tampak sangat natural, tingkat kewaspadaan orang bisa dengan mudah menurun. Kepercayaan yang seharusnya terbangun dari rekam jejak nyata justru dimanfaatkan demi keuntungan sepihak.

Dunia Simulasi yang Terlihat Nyata

Fenomena ini sangat menarik jika dicermati melalui gagasan hiperrealitas dari filsuf Jean Baudrillard dalam bukunya, Simulacra and Simulation. Baudrillard mengulas kondisi ketika simulasi atau tiruan dapat mengaburkan batas dengan kenyataan yang asli. 

Di ruang digital saat ini, video palsu bisa terlihat begitu autentik, sehingga batasan antara momen yang benar-benar terjadi dan hasil rekayasa menjadi kian samar.

Tantangan yang muncul dari kondisi ini pun melampaui sekadar kerugian materi. Ketika kita mulai ragu terhadap keaslian sebuah tayangan, kepercayaan terhadap informasi publik secara keseluruhan bisa ikut teruji. 

Video yang asli bisa saja dicurigai sebagai rekayasa, sementara video manipulasi justru telanjur dipercaya secara luas. Situasi ini mendorong kita untuk lebih cermat dan kritis dalam memilah mana informasi yang nyata dan mana yang sekadar tiruan.

Regulasi Tak Boleh Berhenti pada Etika

Indonesia sebenarnya sudah memiliki instrumen hukum untuk pelanggaran digital, namun tata kelola AI masih memerlukan aturan yang lebih menyeluruh terkait tanggung jawab pengembang dan kewajiban platform. 

Langkah awal telah dimulai lewat Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial yang menekankan prinsip keamanan dan transparansi. Meski menjadi panduan etika yang baik, aturan ini belum menjadi undang-undang khusus yang mengikat untuk mengatasi risiko deepfake.

Ke depan, penguatan regulasi perlu diarahkan pada kewajiban pelabelan konten buatan AI dan kemudahan sistem pelaporan bagi masyarakat. Di sisi lain, peningkatan literasi digital juga menjadi kunci penting agar kita semua lebih terbiasa memeriksa sumber, membandingkan informasi, dan memahami konteks sebelum membagikan sebuah video.

Pada akhirnya, Teknologi boleh semakin pintar, tetapi kebiasaan memeriksa kebenaran harus tetap dijaga. Sebelum mempercayai wajah di layar, pastikan untuk selalu memeriksa sumbernya dan mencari konfirmasi dari kanal resmi. Di era ketika rekayasa digital semakin menyerupai kenyataan, sikap kritis menjadi pelindung terbaik bagi kita semua.