Ketika AI Disalahgunakan: Masihkah Media Sosial Aman bagi Perempuan?

Belakangan ini, linimasa media sosial ramai membicarakan sebuah kecerdasan buatan bernama Grok yang berada di platform X. Namun, sorotan publik bukan datang karena kecanggihannya dalam menjawab pertanyaan atau menghasilkan gambar sesuai perintah pengguna. Yang justru memantik kemarahan dan kegelisahan adalah bagaimana Artificial Intelligence atau AI tersebut disalahgunakan oleh sebagian pengguna untuk mengedit foto orang lain menjadi konten yang tidak etis dan tidak pantas untuk dilihat.

Masalahnya tidak berhenti di situ. Sasaran dari penyalahgunaan ini adalah perempuan, bahkan anak-anak. Foto-foto yang awalnya biasa saja, dengan pakaian tertutup dan konteks yang wajar, diubah menjadi visual yang melecehkan. Semua dilakukan tanpa izin, tanpa persetujuan, dan tanpa sedikit pun memikirkan dampak psikologis bagi korban. Dari situ, muncul pertanyaan yang cukup mengganggu di kepala saya: apakah benar media sosial kini sudah tidak lagi menjadi ruang aman bagi perempuan?

Yang Patut Disorot Bukan Teknologinya, tapi Pola Pikir Pelakunya

Platform X sendiri sejatinya memberi ruang bagi penggunanya untuk berekspresi. Kita bisa menulis cuitan, terlibat diskusi lewat menfess, meneruskan unggahan orang lain melalui quote tweet, hingga membagikan foto dan video pendek. Bahkan, X juga menyediakan alat AI bernama Grok yang dapat menjawab pertanyaan hanya dengan di-mention. Sayangnya, kemudahan ini justru dimanfaatkan oleh segelintir orang yang tidak bertanggung jawab.

Dengan perintah yang sangat sederhana, Grok digunakan untuk mengedit foto seseorang menjadi gambar yang sama sekali tidak sopan. Jumlah korbannya sudah tidak sedikit, dan kecaman dari warganet pun bermunculan. Namun alih-alih merasa bersalah, pelaku justru berlindung di balik alasan klasik, “Cuma bercanda, kok. Itu juga bukan foto asli, tapi buatan AI.” Ada pula yang lebih menyakitkan, dengan menyalahkan korban dan berkata, “Salah sendiri upload foto.”

Dari titik ini, penting untuk menegaskan satu hal: ini bukan salah perempuan. Mereka hanya menggunakan media sosial sebagai ruang berekspresi, sebagaimana hak setiap orang. Mengunggah foto diri bukanlah undangan untuk dilecehkan, apalagi dijadikan bahan fantasi orang lain.

Di sisi lain, tidak sepenuhnya adil jika kesalahan hanya dilemparkan pada AI. Kecerdasan buatan adalah alat. Ia bekerja berdasarkan perintah yang diberikan manusia. Meski begitu, tetap disayangkan jika pihak pengelola platform belum menerapkan kebijakan yang cukup ketat untuk mencegah penyalahgunaan semacam ini sejak awal.

Yang seharusnya menjadi sorotan utama adalah pelakunya. Lebih tepatnya, pola pikir mereka. Ada kesengajaan dalam mengotak-atik foto orang lain hingga menjadi konten tidak senonoh. Ada cara pandang yang menempatkan perempuan semata sebagai objek, bukan sebagai manusia utuh dengan perasaan dan hak atas rasa aman. Perbuatan ini jelas salah dan tidak bisa dibenarkan dengan alasan apa pun, entah itu bercanda, teknologi, atau kebebasan berekspresi.

Respons Negara di Tengah Kekacauan Digital

Di tengah kegelisahan publik, pemerintah akhirnya mengambil langkah tegas dengan memblokir layanan kecerdasan buatan Grok. Keputusan ini diambil karena layanan tersebut dinilai berisiko tinggi terhadap keselamatan publik, khususnya perempuan dan anak-anak. Langkah ini menunjukkan bahwa negara tidak sepenuhnya tinggal diam ketika ruang digital mulai menjadi tempat yang membahayakan kelompok rentan.

Selain itu, Komdigi juga bekerja sama dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang lebih efektif. Upaya ini patut diapresiasi, meski tentu masih membutuhkan pengawasan dan evaluasi berkelanjutan agar tidak berhenti sebatas respons sesaat terhadap kasus viral.

Mari Bersama-sama Menciptakan Ruang Aman untuk Perempuan

Kasus penyalahgunaan AI ini tidak terjadi tanpa sebab. Ketika pola pikir sudah keliru, teknologi secanggih apa pun bisa berubah menjadi alat untuk melukai. Karena itu, ada baiknya kita berhenti sejenak dan merenung. Bagaimana jika kejadian serupa menimpa orang terdekat kita? Apakah kita masih akan menganggapnya sekadar candaan?

Di sinilah pentingnya literasi digital. Bukan hanya untuk perempuan, tetapi untuk semua orang yang aktif di dunia maya. Memahami batas, etika, dan tanggung jawab dalam menggunakan teknologi adalah langkah awal untuk menciptakan ruang digital yang lebih aman.

Tulisan ini bukan sekadar kritik, melainkan pengingat. Bahwa perempuan punya hak untuk merasa aman, tidak hanya di dunia nyata, tetapi juga di ruang digital. Dan rasa aman itu seharusnya dilihat sebagai hak dasar yang perlu dijaga bersama.