Apple Dan Google Didesak Hapus Aplikasi “nudify”, Diduga Raup Untung Dari Deepfake Tanpa Izin

Teknologi AI memang gila banget dan perkembangannya sangat cepat, namun sayangnya tidak semua pemanfaatnya membawa akibat positif, salah satu yang belakangan ini semakin mengkhawatirkan adalah munculnya beragam aplikasi “nudity” ialah aplikasi berbasis AI yang bisa mengubah foto seseorang menjadi seolah-olah tanpa busana hanya dalam hitungan detik.

Nah lantaran dianggap memfasilitasi penyebaran deepfake intim tanpa persetujuan (non-consensual intimate deepfake), pemerintah Kota San Francisco sekarang mengambil langkah tegas dengan meminta Apple dan Google menghapus puluhan aplikasi tersebut dari App Store dan Google Play.

Tapi Apa itu Aplikasi Nudity?

Bagi yang belum familiar, aplikasi nudify merupakan jasa AI yang menggunakan teknologi image generation alias image manipulation untuk membikin gambar tiruan seseorang dalam kondisi bugil hanya berasas foto biasa.

Korbannya tentu bukan hanya public figur saja, namun siapapun yang mempunyai foto di media sosial berpotensi menjadi sasaran, lantaran itulah aplikasi semacam ini semakin sering dikaitkan dengan pelecehan seksual digital, pemerasan, hingga penyebaran konten intim tanpa persetujuan.

Terlalu Lama Dibiarkan Apple dan Google

Nah menurut surat resmi yang oleh City Attorney San Francisco, David Chiu, Apple dan Google sebenarnya sudah berulang kali diperingatkan mengenai keberadaan aplikasi-aplikasi tersebut.

Bahkan sejak tahun lalu, kedua perusahaan disebut telah mengetahui bahwa beberapa aplikasi di toko mereka telah menjual jasa pembuatan deepfake intim, memproses pembayaran untuk jasa tersebut dan tetap tersedia meskipun diduga melanggar norma California.

David Chiu apalagi menilai Apple dan Google ikut memperoleh untung dari keberadaan aplikasi tersebut.

Nah tentu kasus ini bukan sekedar persoalan etika saja, lantaran di California sana, sudah ada undang-undang yang melarang siapa pun yang secara sengaja membantu alias memfasilitasi pembuatan konten pornografi deepfake tanpa persetujuan korban.

Bahkan sejak tahun 2025, korban juga diberikan kewenangan untuk menggugat pihak ketiga yang dianggap ikut mempermudah penyebaran konten tersebut. Karena itu, jika Apple dan Google dianggap tetap membiarkan aplikasi tersebut beredar, keduanya berpotensi menghadapi tuntutan norma dan hukuman perdata.

Lalu Apa Tindakan Kedua Perusahaan Besar Tersebut?

Nah menanggapi surat tersebut, Apple dan Google akhirnya memberikan respon dimana Apple menyatakan bahwa aplikasi nudify sebenarnya memang dilarang masuk ke App Store, mereka juga mengatakan telah menghapus tiga aplikasi yang dimaksud, menutup akun developer mengenai dan memberikan peringatan kepada empat developer lain agar segera mematuhi kebijakan App Store.

Sementara itu, Google mengatakan bahwa lima aplikasi yang disebut dalam laporan juga telah ditangguhkan dari Google Play dan juga mereka menyatakan telah menangguhkan ratusan aplikasi serupa dan membatasi pencarian dengan kata kunci seperti nudity di Play Store.

Nah beberapa aplikasi yang sempat masuk dalam laporan Tech Transparency Project antara lain DreamFace, RemakeFace, AI Dress Up, hingga Best Body AI. Namun sebagian di antaranya sekarang telah dihapus alias ditangguhkan dari App Store maupun Google Play setelah mendapat sorotan.

Masalah Yang Makin Besar di Era AI

Nah kasus ini tentu menunjukan bahwa perkembangan AI ini memang membawa tantangan baru yang tidak bisa dianggap sepele, jika sebelumnya teknologi deepfake lebih sering digunakan untuk membikin video tokoh publik, sekarang aplikasi nudify membikin siapa saja bisa menjadi korban hanya lantaran mempunyai foto yang diunggah ke internet.

Dan yang membikin situasi semakin rumit adalah aplikasi seperti ini sering dipasarkan layaknya aplikasi edit foto biasa, padahal dampaknya bisa sangat serius terhadap privasi dan keselamatan korban.

Terkait perihal ini tentu, secara umum, langkah dari San Francisco ini bisa menjadi salah satu tindakan norma terbesar terhadap pengedaran aplikasi AI yang digunakan untuk membikin deepfake intim tanpa persetujuan.

Meski Apple dan Google mengaku telah mulai menghapus aplikasi-aplikasi tersebut, kasus ini juga menjadi pengingat bahwa platform pengedaran aplikasi tidak hanya bekerja menyediakan tempat bagi developer, tetapi juga mempunyai tanggung jawab untuk memastikan teknologi AI tidak disalahgunakan demi untung finansial.

Nah gimana menurutmu guys? komen dibawah.

Via : Tech Crunch, TTP