Technologue.id, Jakarta - Investigasi terbaru dari organisasi advokasi daring Tech Transparency Project (TTP) mengungkap temuan mengkhawatirkan. Apple App Store dan Google Play Store dipenuhi oleh aplikasi berbasis kecerdasan buatan yang dikenal sebagai aplikasi "nudify". Aplikasi-aplikasi ini memungkinkan pengguna membuat gambar seksual tanpa persetujuan subjeknya.
Menurut laporan TTP, terdapat 55 aplikasi nudify di Google Play Store dan 47 aplikasi serupa di Apple App Store. Selain itu, kedua platform juga masih menyediakan akses ke Grok, chatbot AI milik xAI, yang telah dikenal luas sebagai salah satu pembuat deepfake tanpa persetujuan paling kontroversial di dunia.
“Apple dan Google seharusnya memeriksa aplikasi di toko mereka,” ujar Michelle Kuppersmith, direktur eksekutif organisasi nirlaba yang menaungi TTP.
“Namun, mereka justru menawarkan puluhan aplikasi yang dapat digunakan untuk menampilkan orang dengan pakaian minimal atau bahkan tanpa pakaian sama sekali, sehingga membuat individu rentan terhadap penyalahgunaan," lanjutnya.
Temuan ini semakin serius mengingat skala penggunaannya. Aplikasi-aplikasi yang diidentifikasi dalam laporan tersebut telah diunduh lebih dari 700 juta kali secara kolektif dan menghasilkan pendapatan lebih dari 117 juta dolar AS. Apple dan Google disebut turut memperoleh bagian dari pendapatan tersebut melalui sistem komisi toko aplikasi mereka.
Yang lebih mengkhawatirkan, banyak aplikasi dalam daftar TTP justru diberi peringkat usia yang rendah, sehingga dapat diakses oleh remaja bahkan anak-anak. Salah satu contoh adalah DreamFace, yang dinilai cocok untuk usia 13 tahun ke atas di Google Play Store dan bahkan 9 tahun ke atas di Apple App Store, meskipun fungsinya berpotensi menghasilkan konten bermuatan seksual.
Menanggapi laporan tersebut, Apple menyatakan telah menghapus 24 aplikasi dari App Store, sebagaimana dilaporkan CNBC. Namun, angka ini masih jauh dari total 47 aplikasi yang diidentifikasi oleh peneliti TTP.
Sementara itu, Google menyebut telah menangguhkan beberapa aplikasi yang melanggar kebijakan Play Store, tetapi menolak mengungkap jumlah pasti aplikasi yang telah dihapus. Sikap ini menimbulkan pertanyaan tentang transparansi dan keseriusan kedua perusahaan dalam menangani pelanggaran semacam ini.
Laporan TTP ini muncul tak lama setelah Grok, chatbot AI milik Elon Musk, ditemukan menghasilkan konten seksualisasi terhadap perempuan dan anak-anak. Dalam periode 11 hari, Grok dilaporkan menghasilkan sekitar tiga juta gambar seksualisasi, termasuk 22.000 gambar yang melibatkan anak di bawah umur.
Respons dari pihak xAI dan Elon Musk sendiri dinilai minim. Beberapa jurnalis hanya menerima email otomatis bertuliskan “Media Lama Berbohong.” Musk juga menyatakan bahwa dirinya “tidak mengetahui adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok. Benar-benar nol.”
Akun keamanan X memang menyatakan bahwa siapa pun yang menggunakan atau mendorong Grok untuk membuat konten ilegal akan menghadapi konsekuensi. Namun ironisnya, Grok sendiri justru menunjukkan sikap yang lebih akuntabel dibandingkan perwakilan manusianya, dengan meminta maaf atas pembuatan gambar seksual yang melibatkan anak di bawah umur.