Scroll untuk membaca artikel
Ayu Nabila | Ernik Budi Rahayu
Ilustrasi Deepfake (pexels.com/Christina Morillo)

Baru-baru ini, muncul teknologi deepfake telah muncul sebagai salah satu inovasi paling kontroversial dalam dunia digital.

Deepfake sendiri merujuk pada teknik kecerdasan buatan (AI) yang memungkinkan pengguna untuk membuat video yang sangat realistis dengan memanipulasi wajah dan suara seseorang.

Meskipun teknologi ini memiliki manfaat untuk digunakan dalam film, hiburan, dan seni, namun nyatanya saat ini justru digunakan sebagai alat isu untuk melakuan kekerasan terhadap perempuan.

Pengertian Teknologi Deepfake

Teknologi deepfake adalah jenis kecerdasan buatan yang digunakan untuk membuat gambar, video, dan rekaman audio palsu yang meyakinkan.

Istilah ini menggambarkan teknologi dan konten palsu yang dihasilkan dan merupakan gabungan dari deep learning dan fake.

Deepfake sering kali mengubah konten sumber yang sudah ada, di mana satu orang ditukar dengan orang lain.

Deepfake juga menciptakan konten yang sepenuhnya asli, di mana seseorang digambarkan melakukan atau mengatakan sesuatu yang tidak mereka lakukan atau katakan

Dampak Teknologi Deepfake

Bahaya terbesar yang ditimbulkan oleh deepfake adalah kemampuannya untuk menyebarkan informasi palsu yang tampaknya berasal dari sumber tepercaya.

Hal itulah yang menjadikan deepfake menimbulkan ancaman serius. 

Dampak paling serius dari deepfake adalah penggunaannya dalam konteks pornografi tanpa konsen.

Banyak yang menjadi korban ketika wajah atau tubuh mereka dipasang pada sebuah video pornografi.

Pembuatan video tersebut kerap kali ada tanpa sepengetahuan atau persetujuan dari mereka.

Banyaknya peristiwa tersebut bukan hanya bentuk dari pelecehan seksual, tetapi juga pelanggaran terhadap privasi dan kehormatan dari seseorang.

Banyaknya korban tersebut terbukti bisa dilihat dari negara Korea Selatan yang geger karena Deepfake ini.

Terbukti dari, menurut Badan Kepolisian Nasional Korea Selatan, terdapat 297 kasus kejahatan deepfake pornografi yang dilaporkan dari Januari hingga Juli.

Dari 178 terdakwa, 113-nya adalah remaja. Pihak kepolisian Seoul juga sudah menangkap 10 remaja berusia 14 tahun atas kejahatan ini.

Berdasarkan hal tersebut, deepfake ternyata menciptakan risiko besar bagi korban.

Kecanggihan teknologi ini tentunya bisa mengalami trauma emosional dan sosial yang mendalam.

Korban Deepfake sering kali menghadapi stigma dan kesulitan dalam membangun kembali reputasi mereka, karena video yang dihasilkan dapat dengan mudah menyebar di internet dan sulit untuk dihapus.

Dari segi regulasi, saat ini belum terdapat aturan yang secara spesifik yang mengatur mengenai penyalahgunaan AI berupa deepfake porn.

Akan tetapi, karena kejahatan deepfake porn dilakukan melalui kecerdasan buatan, memiliki muatan pornografi, dan pelaku menggunakan wajah orang lain dalam pembuatan deepfake porn, maka kita dapat merujuk pada UU ITE dan perubahannya, UU PDP, UU Pornografi, atau UU 1/2023 tentang KUHP baru.

Tentunya masalah ini menunjukkan bahwa ada kebutuhan mendesak dari kejahatan ini untuk menuntut kebijakan yang lebih ketat.

Berdasarkan ulasan di atas, kesimpulannya adalah walaupun teknologi deepfake memberikani manfaat bagi kehidupan kita.

Namun, nyatanya teknologi deepfake bisa disalahgunakan untuk alat kekerasan seksual. Oleh karena itu, upaya kolektif perlu dilakuan untuk menciptakan kesadaran masyarakat sekaligus regulasi yang ketat.

Ernik Budi Rahayu