Apple Ubah Aturan App Store, Developer Aplikasi AI Nakal Bisa Kena Blokir!

Apple memperketat aturan distribusi aplikasi di App Store untuk menindak layanan kecerdasan buatan (AI) yang memungkinkan pengguna membuat gambar intim atau ketelanjangan digital seseorang tanpa persetujuan. Kebijakan ini menjadi langkah penting dalam menghadapi penyalahgunaan teknologi AI, terutama ketika kemampuan manipulasi gambar semakin mudah diakses oleh masyarakat luas.

Melalui pembaruan Pedoman Peninjauan Aplikasi, Apple secara eksplisit menegaskan bahwa Developer harus mencegah dan menghapus gambar intim tanpa persetujuan, termasuk konten yang dihasilkan menggunakan AI. Developer tidak lagi cukup hanya melarang fitur pembuatan gambar telanjang dalam ketentuan layanan. Mereka juga dituntut menyediakan sistem perlindungan yang mampu mendeteksi, menangani, dan menindak penyalahgunaan di dalam aplikasi.

Langkah tersebut diambil setelah Apple menghadapi kritik selama berbulan-bulan terkait keberadaan aplikasi yang dapat memanipulasi foto seseorang untuk menghasilkan gambar seksual tanpa izin. Dengan aturan yang lebih jelas, perusahaan ingin mempersempit celah yang selama ini dimanfaatkan pengembang untuk menghadirkan fitur berbahaya melalui platform resminya.

Dalam pedoman terbaru, Apple menetapkan sejumlah kewajiban bagi aplikasi yang menampung konten buatan pengguna. Developer harus menyediakan mekanisme penyaringan materi yang tidak pantas, fasilitas pelaporan konten bermasalah, serta kemampuan bagi pengguna untuk memblokir akun yang melakukan penyalahgunaan.

Selain itu, Developer diwajibkan menanggapi laporan dan keluhan secara memadai. Mereka juga harus mengambil langkah proaktif untuk mencegah penyebaran gambar intim tanpa persetujuan dan menghapus konten tersebut apabila ditemukan.

Ketentuan ini menunjukkan bahwa tanggung jawab Developer tidak berhenti pada penyediaan fitur atau penerapan aturan tertulis. Mereka perlu memastikan bahwa sistem yang dibangun memiliki perlindungan nyata terhadap potensi penyalahgunaan, termasuk pembuatan gambar seksual menggunakan teknologi AI generatif.

Apabila Developer gagal menerapkan perlindungan yang memadai atau tidak menangani pelanggaran setelah menerima pemberitahuan, Apple dapat menghapus aplikasi tersebut dari App Store. Kebijakan ini memberikan dasar yang lebih tegas bagi perusahaan untuk menindak layanan yang dianggap membahayakan privasi dan keselamatan pengguna.

Apple juga memperjelas larangan terhadap aplikasi yang menyembunyikan fungsi sebenarnya selama proses peninjauan. Praktik seperti menyamarkan fitur berbahaya, mengaktifkan kemampuan tertentu setelah aplikasi disetujui, atau menyembunyikan fungsi yang tidak tercantum dalam dokumentasi tetap menjadi pelanggaran serius.

Aturan tersebut penting karena aplikasi bermasalah dapat terlihat normal ketika diperiksa oleh tim peninjau, tetapi kemudian menawarkan fitur pembuatan gambar telanjang setelah memperoleh persetujuan untuk didistribusikan. Dengan kata lain, lolos dari proses pemeriksaan awal tidak berarti Developer bebas menambahkan kemampuan yang melanggar kebijakan Apple.

Perusahaan menegaskan bahwa aplikasi yang terbukti melanggar dapat dihapus dari App Store. Bahkan, Developer di balik aplikasi tersebut berisiko dikeluarkan dari Program Developer Apple, sehingga tidak lagi dapat mendistribusikan aplikasi melalui ekosistem perusahaan sesuai ketentuan yang berlaku.

Apple turut memperjelas sikapnya terhadap aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak. Aplikasi semacam itu dapat dihapus dan diblokir dari jalur distribusi alternatif. Kebijakan ini memperlihatkan bahwa perusahaan ingin memperluas pengawasan terhadap berbagai bentuk penyalahgunaan teknologi, bukan hanya aplikasi pembuat gambar seksual.

Pembaruan aturan ini muncul setelah meningkatnya sorotan terhadap aplikasi AI yang mampu menelanjangi seseorang secara digital. Pada Juli, Jaksa Kota San Francisco, David Chiu, mengirimkan surat peringatan kepada Apple dan Google. Ia mendesak kedua perusahaan untuk menghapus aplikasi yang memungkinkan pembuatan gambar intim tanpa persetujuan.

Desakan tersebut menyusul penyelidikan terhadap berbagai alat AI yang dapat memanipulasi foto orang sungguhan menjadi gambar seksual. Kontroversi terpisah mengenai penggunaan Grok untuk menghasilkan gambar manipulatif bernuansa seksual juga memperbesar kekhawatiran publik terhadap kemampuan platform digital dalam mengendalikan penyalahgunaan AI.

Meski demikian, Apple menyatakan bahwa aplikasi yang menampilkan ketelanjangan sebenarnya telah lama bertentangan dengan aturan platformnya. Karena itu, perubahan terbaru ini lebih tepat dipahami sebagai penegasan dan perluasan eksplisit terhadap perlindungan yang sudah ada, bukan larangan yang sepenuhnya baru.

Perbedaannya terletak pada kejelasan tanggung jawab Developer, kewajiban menangani konten intim tanpa persetujuan, serta konsekuensi bagi pihak yang mencoba menghindari pemeriksaan.

Meski aturan yang lebih tegas menjadi langkah positif, efektivitasnya tetap bergantung pada penerapan di lapangan. Developer yang sengaja menyembunyikan fitur berbahaya atau mengubah kemampuan aplikasi setelah memperoleh persetujuan dapat menyulitkan proses pengawasan. Apple harus memastikan bahwa pemeriksaan tidak hanya dilakukan sebelum aplikasi dirilis, tetapi juga berlanjut setelah aplikasi tersedia bagi pengguna.

Bagi korban, dampak penyalahgunaan gambar AI tidak berhenti ketika sebuah aplikasi dihapus. Gambar yang sudah dibuat atau disebarkan dapat terus beredar, merusak reputasi, mengganggu kehidupan pribadi, dan menimbulkan tekanan psikologis. Karena itu, pencegahan, mekanisme pelaporan yang mudah digunakan, serta penanganan keluhan secara cepat menjadi sama pentingnya dengan pemblokiran aplikasi.

Pembaruan pedoman App Store menunjukkan bahwa Apple semakin serius menghadapi risiko penyalahgunaan AI generatif. Namun, keberhasilan kebijakan ini tidak cukup diukur dari seberapa ketat aturan ditulis atau berapa banyak aplikasi yang dihapus. Ukuran utamanya adalah apakah pengguna benar-benar terlindungi dari pembuatan dan penyebaran gambar intim tanpa persetujuan.

Apple kini telah memperjelas batasannya. Tantangan berikutnya adalah memastikan tidak ada Developer yang dapat dengan mudah menyiasati aturan tersebut dan membiarkan korban menanggung dampaknya.