Kasus Deepfake 'New Nth Chat Room', Bukti Bahayanya Teknologi AI jika Tak Bijak Memakainya

Korea Selatan digemparkan dengan kembalinya kasus grup Telegram yang menyebarkan konten pornografi ilegal, The New Nth Chat Room. 

Dilansir dari Koreaboo (31/8/2024), terdapat sekitar 200 ribu orang yang berada di dalam grup chat Telegram tersebut. Usut punya usut, salah satu syarat untuk masuk ke grup tersebut harus mengirimkan foto-foto perempuan di sekitar mereka, seperti teman, anggota keluarga, pacar dan menjelaskan detail personal mereka.

Terlebih dari itu, beberapa sumber mengungkap bahwa ruang obrolan tersebut juga berisi orang-orang yang melakukan hal tak pantas terhadap anggota keluarganya. Misalnya, mengangkat rok adiknya saat tertidur, dan menyentuh saudara perempuan serta ibu mereka.

The New Nth Chat Room diketahui juga melibatkan ratusan idol KPop yang diedit secara seksual menggunakan teknologi AI. Dalam grup Telegram tersebut, ditemukan sejumlah video deepfake porno 200 idol KPop, antara lain Minji, Sana, Wonyoung, IU dan lainnya.

Apa yang Dimaksud Video Deepfake di Nth Chat Room?

Menelisik lebih lanjut tentang apa itu video deepfake. Dikutip dari Internet Matters (31/8), deepfake adalah sebuah teknologi kecerdasan buatan (AI) yang mampu memanipulasikan kemiripan seseorang.

Teknologi ini membuat seseorang seolah-olah melakukan atau mengatakan sesuatu yang tidak pernah mereka lakukan sebelumnya. Hanya bermodalkan foto atau video, maka mereka mampu membuat video deepfake sesuai apa yang diinginkan.

Selebriti atau idol KPop merupakan publik figur yang foto dan videonya dapat diakses secara bebas di sosial media. Berkat paras cantiknya seringkali mengundang para penggemar fanatik atau orang lain mengedit video deepfake mereka untuk memenuhi imajinasi seksual yang mereka dambakan.

Bagaimana Cara Kerja Kecerdasan Buatan (AI) untuk Membuat Video Deepfake?

Dengan kemudahan mengakses informasi saat ini, sudah ditemukan beberapa website yang mampu membuat video deepfake dengan mudah dan praktis.

Secara teknisnya, video deepfake hanya membutuhkan foto atau video seseorang yang wajahnya ingin diedit. Selanjutnya, foto atau video tersebut diunggah dan soal masalah edit video deepfake akan diproses oleh website tersebut.

Berkat kemudahan tersebut, orang biasa pun dapat dengan mudah melakukan edit video deepfake tanpa memerlukan keahlian khusus. Oleh sebab itu, teknologi AI sangat mengkhawatirkan karena pemalsuan video dapat dengan gampang dilakukan.

Kasus The New Nth Chat Room menjadi salah satu bentuk bagaimana sebuah teknologi AI dimanfaatkan dengan cara yang salah oleh sebagian banyak orang. 

Teknologi deepfake AI berpotensi menyebarkan informasi palsu dan menyebarkan propaganda. Selain itu, teknologi ini juga memberikan kemudahan dalam melakukan penipuan dan kejahatan siber lainnya.

Dengan demikian, untuk mencegah bentuk bahayanya deepfake AI disalahgunakan oleh remaja atau anak dibawah umur. Perlunya pengawasan terhadap segala hal yang diakses oleh anak dan menerapkan critical thingking sejak dini.