Menurut Iqna, mengutip Al Jazeera, perempuan Muslim di seluruh India mengalami kenyataan bahwa teknologi deepfake telah menjadi senjata terbaru dalam sejarah panjang pelecehan daring dan peningkatan Islamofobia, kecuali kali ini, buktinya tampak sangat nyata.

Samrin Ayub terkejut ketika pertama kali melihat video itu. Perempuan dari Kashmir yang dikelola India itu sedang membuka ponselnya tahun lalu ketika seorang teman mengiriminya klip yang sedang dibagikan di Instagram.

Video itu tampaknya menceritakan kisah hidupnya di New Delhi, lengkap dengan narasi suara, teks terjemahan, dan judul berita seperti segmen berita TV. Tetapi itu sepenuhnya palsu.

Suara dalam gambar tersebut, yang dihasilkan menggunakan kecerdasan buatan, secara keliru mengklaim bahwa dia adalah seorang perempuan Muslim yang menjual diri kepada pria Hindu. Suara tersebut salah mengidentifikasi orang-orang dalam foto.

“Kedengarannya sangat nyata sehingga jika ada orang, bahkan orang tua saya, yang melihat video itu, mereka akan mengira itu nyata,” kata Samrin.

Dia adalah salah satu dari beberapa perempuan Muslim yang mengalami apa yang oleh para peneliti digambarkan sebagai pola yang semakin nyata: Penggunaan kecerdasan buatan untuk menghasilkan gambar dan iklan seksual.

Al Jazeera menghubungi beberapa perempuan Muslim yang telah menjadi sasaran. Mereka menolak untuk berbicara secara langsung karena malu dan risiko mengalami bahaya kembali.

Tren gambar dan video palsu perempuan Muslim menyebar seiring dengan meningkatnya partisipasi India dalam percakapan global tentang tata kelola AI, termasuk KTT Dampak AI Tingkat Tinggi yang diadakan di New Delhi awal tahun ini, yang berfokus pada inovasi dan kerangka kerja regulasi.

Sebuah studi oleh Center for the Study of Organized Hate (CSOH) yang berbasis di Washington, D.C., menganalisis 1.326 gambar dan video yang dihasilkan AI yang dikumpulkan dari 297 akun publik di X, Facebook, dan Instagram dari Mei 2023 hingga Mei 2025. Para peneliti menemukan bahwa gambar-gambar yang menampilkan perempuan Muslim dengan unsur seksual adalah yang paling banyak dilihat: Lebih dari 6,7 juta kali dilihat di semua platform.

Dataset yang dikumpulkan oleh CSOH mencakup meme yang dihasilkan AI yang menggambarkan perempuan Muslim dalam pakaian keagamaan dalam gambar pornografi palsu yang menargetkan jurnalis dan aktivis.

Para peneliti percaya bahwa munculnya AI generatif telah secara dramatis meningkatkan skala dan kecepatan pelecehan daring terhadap perempuan Muslim. (HRY)

4358611