SEANTERONEWS.com – Pemerintah kota San Francisco, Amerika Serikat, secara resmi mengeluarkan instruksi tegas kepada Apple dan Google untuk menghapus puluhan aplikasi “nudify” dari platform toko aplikasi mereka. Perangkat lunak kontroversial ini dinilai melanggar hukum karena kemampuannya memanipulasi foto secara digital untuk menampilkan gambar pornografi tanpa persetujuan subjeknya (non-consensual deepfake pornography).
Jaksa Kota San Francisco, David Chiu, dalam pernyataan resminya menekankan bahwa kedua perusahaan teknologi raksasa tersebut telah membiarkan serta mengambil keuntungan dari aplikasi yang mengeksploitasi perempuan dan anak perempuan.
“Apple dan Google telah mengambil keuntungan dari aplikasi yang mengeksploitasi perempuan dan gadis dengan menghasilkan deepfake intim tanpa konsensus. Mereka memiliki tanggung jawab untuk lebih proaktif dan waspada dalam mencegah pelecehan seksual,” tegas Chiu.
Keuntungan di Balik Konten Ilegal
Berdasarkan surat yang dikirimkan oleh kantor jaksa kota kepada Apple dan Google, kedua perusahaan tersebut telah berulang kali diperingatkan mengenai peran mereka dalam memfasilitasi pembayaran ilegal untuk konten yang melanggar hukum. Laporan dari Tech Transparency Project (TTP) pada Januari dan April lalu menunjukkan adanya puluhan aplikasi di toko masing-masing yang memperjualbelikan gambar intim non-konsensual dengan sistem pembayaran yang diproses langsung oleh platform.
Chiu menaksir bahwa Apple dan Google kemungkinan besar telah meraup keuntungan jutaan dolar dari biaya transaksi aplikasi-aplikasi berbahaya tersebut. Di bawah undang-undang California, tindakan memfasilitasi pembuatan konten pornografi deepfake non-konsensual merupakan pelanggaran serius yang dapat dijatuhi sanksi perdata.
Respons Apple dan Google
Merespons tekanan hukum tersebut, baik Apple maupun Google menyatakan telah mengambil tindakan. Juru bicara Apple menyatakan bahwa aplikasi nudify secara aturan memang dilarang muncul di App Store.
“Kami telah menghapus tiga aplikasi yang dimaksud dan sedang dalam proses mengakhiri akun pengembangnya. Kami juga sedang berkomunikasi dengan empat aplikasi lainnya yang harus mengatasi pelanggaran kebijakan, atau berisiko dihapus sepenuhnya,” ujar perwakilan Apple.
Sementara itu, pihak Google menyatakan telah menangguhkan lima aplikasi yang disebutkan dalam surat jaksa dari Play Store. “Ketika pelanggaran dilaporkan kepada kami, kami melakukan investigasi dan mengambil tindakan cepat. Dalam kasus aplikasi ini, kami telah menangguhkan ratusan aplikasi yang melanggar kebijakan serta membatasi istilah pencarian terkait seperti ‘nudify’,” jelas juru bicara Google.
Ancaman Keamanan bagi Masyarakat Umum
Meskipun fenomena deepfake pornografi selama ini lebih banyak menyasar pesohor atau selebritas, keberadaan aplikasi nudify membuat siapa pun yang memiliki foto publik di internet kini rentan menjadi target. Langkah tegas pemerintah San Francisco ini diharapkan menjadi preseden penting bagi penyedia platform global untuk lebih memperketat moderasi konten, guna memastikan teknologi AI tidak disalahgunakan untuk melanggar hak privasi dan martabat manusia.
Pihak kota San Francisco memberikan tenggat waktu 28 hari kepada kedua perusahaan untuk merespons instruksi tersebut sebelum langkah hukum lebih lanjut dipertimbangkan.
