Apple memperketat aturan App Store dengan mewajibkan pengembang mencegah dan menghapus gambar seksual non-konsensual, termasuk konten yang dibuat menggunakan aplikasi “nudify” berbasis kecerdasan buatan (AI). Pengembang yang tidak menyediakan pengamanan memadai atau mengabaikan pelanggaran setelah menerima pemberitahuan dapat dikeluarkan dari toko aplikasi tersebut.
Pembaruan kebijakan yang diumumkan pada Jumat itu memperjelas tanggung jawab pengembang dalam memoderasi konten. Apple juga menegaskan larangan terhadap aplikasi yang menyamarkan atau menambahkan fitur tertentu setelah lolos peninjauan, termasuk fitur untuk membuat gambar seseorang seolah-olah tanpa busana.
Pengembang wajib mencegah gambar intim tanpa izin
Dalam aturan terbaru, Apple menyatakan pengembang harus secara proaktif mencegah dan menghapus gambar seksual non-konsensual. Kewajiban ini menjadi bagian dari persyaratan moderasi konten yang berlaku bagi aplikasi di App Store.
Ketentuan tersebut menempatkan tanggung jawab pada pengembang, bukan hanya pada pengguna yang memasukkan perintah atau mengunggah gambar. Jika pengembang gagal menerapkan perlindungan yang memadai, atau tidak memperbaiki pelanggaran setelah diberi tahu, aplikasi mereka berisiko dicabut dari platform.
Apple juga memperjelas aturan mengenai praktik “bait-and-switch”. Istilah ini merujuk pada aplikasi yang mengubah atau menambahkan fungsi setelah mendapat persetujuan, sehingga fitur yang sebelumnya tidak terlihat—termasuk “nudifikasi”—baru muncul kemudian. Penegasan itu dimaksudkan untuk menutup celah bagi aplikasi yang menghindari pemeriksaan awal.
Aturan tersebut tidak hanya menyasar aplikasi pembuat gambar intim. Apple menyatakan aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak akan ditarik dari App Store dan diblokir dari distribusi alternatif. Dengan demikian, larangan yang diperbarui mencakup jalur distribusi di luar toko aplikasi utama Apple.
Kritik atas deepfake seksual menjadi latar
Pengetatan ini muncul setelah Apple mendapat sorotan atas penyalahgunaan AI untuk membuat deepfake seksual tanpa persetujuan. Pada awal tahun ini, pengguna X memanfaatkan Grok untuk menghasilkan gambar semacam itu, termasuk gambar yang melibatkan anak di bawah umur.
Apple tidak menarik X maupun Grok dari App Store setelah peristiwa tersebut. Namun, perusahaan menyatakan telah mengancam akan mencabut Grok dalam komunikasi dengan sejumlah senator. Keputusan untuk tetap menyediakan kedua layanan itu di platform Apple kemudian menjadi bagian dari perdebatan mengenai konsistensi penegakan kebijakan.
Desakan agar Apple bertindak juga terdengar di luar perusahaan. Saat acara Worldwide Developers Conference (WWDC) Apple pada Juni, para demonstran menyerukan agar Apple menghapus Grok, X, dan teknologi “nudify” dari App Store.
Pada Juli, jaksa kota San Francisco memerintahkan Apple mencabut 13 aplikasi “nudify”. Apple menyatakan langkah tersebut telah dilakukan. Rangkaian tekanan publik dan hukum itu menjadi konteks penting bagi pembaruan aturan yang kini secara lebih tegas mencantumkan kewajiban moderasi dan konsekuensi bagi pengembang.
Aturan baru menuntut pengawasan sejak awal
Bagi pengembang, perubahan kebijakan ini berarti perlindungan terhadap penyalahgunaan perlu dipikirkan sejak aplikasi dirancang dan diajukan untuk ditinjau. Pengembang juga harus siap menindaklanjuti laporan pelanggaran, bukan sekadar mengandalkan pemeriksaan awal sebelum aplikasi tersedia.
Penegasan mengenai fitur “bait-and-switch” membuat perubahan fungsi setelah persetujuan menjadi perhatian tersendiri. Aplikasi yang awalnya tampak tidak bermasalah tetap dapat menghadapi tindakan jika kemudian menambahkan kemampuan untuk menghasilkan gambar intim tanpa persetujuan.
Bagi pengguna, pembaruan itu memberi penjelasan lebih terang tentang batas yang ditetapkan Apple terhadap penggunaan AI generatif. Namun, kebijakan platform tidak menghapus risiko penyalahgunaan sepenuhnya. Efektivitasnya akan bergantung pada kemampuan pengembang menerapkan pengamanan dan kesediaan Apple menindak pelanggaran secara konsisten.
Dengan aturan yang diperjelas, Apple berupaya menunjukkan bahwa moderasi merupakan bagian dari tanggung jawab pengembang di ekosistem App Store. Perhatian berikutnya tertuju pada bagaimana ketentuan tersebut diterapkan terhadap aplikasi yang sudah beredar maupun layanan yang mengubah fitur setelah memperoleh persetujuan.
