New Delhi, India – Saat Samreen Ayoub pertama kali melihat video tersebut, dia tercengang.

Model lepas dari Kashmir yang dikelola India sedang menelusuri ponselnya tahun lalu ketika seorang teman mengiriminya klip yang tersebar di Instagram.

Cerita yang Direkomendasikan

daftar 4 barang

• daftar 1 dari 4‘Kami tidak akan menutup mulut’: Wanita Muslim ‘dilelang’ di India
• daftar 2 dari 4Bulli Bai: Wanita Muslim India kembali terdaftar dalam aplikasi ‘lelang’
• daftar 3 dari 4‘Lelang’ wanita Muslim di India menunjukkan teknologi dijadikan senjata untuk memahami
• daftar 4 dari 4Pekerja rumah tangga Muslim di India mengganti nama karena takut

daftar akhir

Video tersebut tampak menceritakan kisah hidupnya di New Delhi, lengkap dengan suara narator, scrolling caption, dan headline layaknya segmen berita televisi. Tapi itu seluruhnya dibuat-buat.

“Itu adalah penguntitan yang pantas,” kata Ayoub, 24 tahun. “Mereka mengikuti kehidupan saya dari semester pertama hingga semester terakhir di universitas.”

Video tersebut menggabungkan foto-foto masa Ayoub sebagai mahasiswa di Universitas Jamia Millia Islamia di New Delhi – gambar yang diambil dari momen kehidupan kampus sehari-hari, termasuk kelompok proyek, pertemuan perpisahan, dan selfie dengan teman sekelas.

Sulih suara tersebut, yang dibuat dengan menggunakan kecerdasan buatan, secara keliru mengklaim bahwa dia adalah seorang wanita Muslim yang “menjual tubuhnya” kepada pria Hindu. Ia salah mengidentifikasi orang-orang di foto dan menyebut saudara laki-lakinya sendiri sebagai “mucikari”.

“Terlihat sangat nyata sehingga jika seseorang, bahkan orang tua saya, melihat video tersebut, mereka akan mengira itu nyata,” kata Ayoub.

Dia adalah salah satu dari beberapa perempuan Muslim yang mengalami apa yang para peneliti gambarkan sebagai sebuah pola yang semakin terlihat: penggunaan AI untuk menghasilkan citra dan propaganda seksual.

Al Jazeera beberapa menghubungi wanita Muslim yang menjadi sasaran. Mereka menolak untuk berbicara secara terbuka, dengan alasan rasa malu dan risiko trauma ulang.

‘Fantasi seksi menjadi gambaran’

Tren pemikiran seksual terhadap gambar dan video perempuan Muslim terjadi bersamaan dengan meningkatnya keterlibatan India dalam diskusi global mengenai tata kelola AI, termasuk KTT Dampak AI tingkat tinggi yang diadakan awal tahun ini di New Delhi yang fokus pada inovasi dan kerangka peraturan.

Sebuah studi yang dilakukan oleh Center for the Study of Organized Hate (CSOH) yang berbasis di Washington, DC menganalisis 1.326 gambar dan video buatan AI yang tersedia untuk umum, yang dikumpulkan dari 297 akun publik di X, Facebook, dan Instagram dari Mei 2023 hingga Mei 2025. Para peneliti menemukan bahwa ukiran wanita Muslim yang bersifat seksi menghasilkan keterlibatan tertinggi – lebih dari 6,7 juta interaksi di seluruh platform.

“AI generatif telah memungkinkan transformasi fantasi seksual menjadi gambar dengan cepat dan tanpa biaya,” kata Zenith Khan, salah satu penulis studi dan analis riset digital di CSOH. “Pembuatan gambar dan deepfake memungkinkan individu mengubah narasi permusuhan menjadi materi visual yang sangat realistis dengan keahlian teknis minimal.”

Para peneliti bukanlah satu-satunya orang yang melacak tren ini.

Meri Trustline, saluran bantuan keamanan online yang dijalankan oleh RATI Foundation yang berbasis di Mumbai, juga mengalami peningkatan jumlah kasus serupa. Laporan saluran bantuan pada tahun 2024 mengungkapkan pola yang memprihatinkan: Meskipun perhatian media cenderung terfokus pada selebriti dan politisi, perempuan yang tidak tampil di depan umum juga menjadi sasaran melalui gambar-gambar yang, meskipun dibuat-buat, memiliki kapasitas untuk menimbulkan kerugian yang nyata.

Konselor garis depan di saluran bantuan, termasuk Salman Mujawar, yang pekerjaannya menangani para penyuntas menjadi dasar dari banyak bukti yang dipublikasikan organisasi tersebut, mengatakan bahwa mereka telah mendokumentasikan peningkatan jumlah kasus serupa.

Sejak didirikan pada tahun 2022, Meri Trustline telah menangani lebih dari 482 kasus, sekitar 10 persen di antaranya melibatkan materi yang dimanipulasi secara digital – jumlah ini terus meningkat seiring dengan semakin mudahnya akses terhadap alat AI.

“Pelanggaran ini diredam oleh rasa malu, ketakutan dan trauma,” kata Mujawar. “Insiden jarang diungkapkan bahkan kepada anggota keluarga dekat, apalagi ditampilkan dalam wacana publik yang lebih luas.”

‘Pornifikasi politik’

Video Ayoub beredar di beberapa akun media sosial dalam hitungan jam. Komentar kasar, panggilan telepon yang mengancam, dan tuduhan tentang karakternya segera menyusul.

“Rasanya seperti hukuman mati tanpa pengadilan digital,” katanya. “Tidak hanya satu, tapi lebih dari bersantai akun yang memposting video itu di mana-mana, dan ratusan lainnya membagikan ulang video tersebut.”

Kumpulan data yang dikumpulkan oleh CSOH mencakup meme yang dibuat oleh AI yang menggambarkan perempuan Muslim dalam pakaian keagamaan dalam skenario yang menyajikan ke arah seksual serta gambar pornografi palsu yang menargetkan jurnalis dan aktivis. Dari banyak gambar tersebut, para peneliti mengamati pola visual yang berulang: “wanita berkode Muslim” dipasangkan dengan “pria berkode Hindu”.

“Dalam narasi ini, laki-laki Muslim sering digambarkan sebagai orang yang kejam atau korup secara moral,” kata Khan. “Sementara itu, perempuan Muslim digambarkan sebagai orang yang patuh atau ‘diselamatkan’ oleh laki-laki dari komunitas mayoritas.”

Pencitraan ini, menurut para peneliti, bukanlah sebuah hal yang kebetulan terjadi dalam wacana politik – namun merupakan bagian dari wacana politik.

Sahana Udupa, antropolog media di Universitas Ludwig Maximilian Munich, menggambarkan fenomena tersebut sebagai bagian dari “pornifikasi politik” yang lebih luas yang menyasar perempuan dan komunitas minoritas. Budaya digital sayap kanan, katanya, menggabungkan humor, meme, dan gambaran seksual untuk menormalisasi pemahaman.

“Praktik-praktik ini membentuk suatu ekosistem,” kata Udupa. “Mereka berkembang pesat dalam kelompok perayaan dan agresi kolektif.”

Ekosistem tersebut, kata para sarjana, memiliki akar ideologi yang lebih dari sekadar misogini. Dalam tulisannya di South Asia Multidisciplinary Academic Journal (Jurnal Akademik Multidisiplin Asia Selatan) yang mengulas sejawat, peneliti Soma Basu berargumentasi bahwa yang terjadi adalah politisasi seksual itu sendiri.

Tubuh perempuan Muslim telah menjadi medan pertempuran untuk mendominasi komunal – sebuah dinamika yang paling nyata terlihat di dunia “Penawaran Sulli” Dan “Buli Bai” kontroversi, platform lelang tiruan yang menyasar perempuan Muslim di India dan Basu menghubungkannya dengan dukungan formal dari pejabat Partai Bharatiya Janta (BJP) yang berkuasa dan dukungan informal dari relawan partai digital tersebut.

Penelitian Khan mencapai medan serupa dari sudut yang berbeda. “Di banyak budaya Asia Selatan, perempuan digambarkan sebagai kehormatan keluarga,” katanya. “Jadi menyerang perempuan Muslim secara visual menjadi cara untuk menggambarkan Muslim sebagai inferior.”

Khan sendiri menganggap penelitian ini sangat berpengaruh. “Sebagai seorang wanita Muslim dan seorang peneliti, hal ini memberikan dampak yang besar bagi saya,” katanya.

“Saya ingat saya merasa sangat ngeri ketika melihat gambar seorang wanita berjilbab direpresentasikan sebagai pornografi yang lembut. Sebagai seorang wanita, Anda sudah menghadapi perilaku misoginis setiap hari. Ini adalah lapisan lain yang ditambahkan ke dalam identitas Anda.”

Menyanggapi kekhawatiran ini, Atif Rasheed, seorang politisi BJP, mengatakan AI “dapat digunakan baik secara positif maupun negatif” dan menegakkan peraturan yang lebih kuat untuk mencegahnya. Dia menyebut konten deepfake dan eksplisit seksi “sangat mengecewakan” dan mengatakan konten tersebut harus ada tindakan tegas terhadap pelakunya.

Namun, dia menolak melihat masalah ini dari sudut pandang agama, dengan mengatakan BJP “menghormati perempuan dari semua agama” dan kasus “Sulli Deals” dan “Bulli Bai” ditangani sesuai dengan hukum.

Pola familiar diperkuat oleh AI

Episode Sulli Deals dan Bulli Bai yang terjadi pada tahun 2021 dan 2022 menggunakan gambar yang direkayasa. Keduanya memicu kemarahan dan penyelidikan polisi secara luas.

Pihak India menangkap Aumkareshwar Thakur, yang bermaksud menciptakan nama pengguna “Sulli Deals”, dan Niraj Bishnoi, yang diidentifikasi sebagai pencipta “Bulli Bai”, pada Januari 2022. Baik Thakur maupun Bishnoi diberikan jaminan oleh pengadilan New Delhi atas “alasan kemanusiaan” dua bulan kemudian.

Para peneliti yakin kemunculan AI generatif telah secara dramatis memperluas skala dan kecepatan pemahaman terhadap perempuan Muslim secara online. Aplikasi baru memungkinkan pengguna mengunggah foto dan secara otomatis menghasilkan gambar seksi. Alat-alat tersebut tersedia secara luas secara online, seringkali gratis, dan tidak memerlukan keahlian teknis.

“Ada sejarah panjang teknologi yang digunakan untuk menargetkan dan melecehkan perempuan, terutama perempuan minoritas,” kata Eviane Leidig, direktur penelitian dan penjangkauan di CSOH. “Yang berbeda saat ini adalah tingkat pelanggaran dan skala kerugian yang ditimbulkan oleh alat AI.”

Bagi mereka yang sudah mengalami diskusi berkelanjutan, kemunculan gambar yang dihasilkan AI telah menambah dimensi ketakutan baru.

Afreen Fatima, 27, seorang peneliti dan aktivis yang memahaminya berdiskusi secara online sejak menentang Undang-Undang Kewarganegaraan (Amandemen) India pada tahun 2019, termasuk di antara lusinan wanita Muslim yang fotonya diunggah dan “dilelang” di Sulli Deals.

Undang-undang tersebut, yang dinyatakan oleh PBB sebagai “diskriminatif secara mendasar” terhadap umat Islam, bertujuan untuk mempercepat pemberian kesejahteraan India kepada kelompok minoritas non-Muslim yang tiba di India dari negara-negara tetangga yang mayoritas penduduknya beragama Islam sebelum tahun 2025.

Empat tahun setelah kontroversi Sulli Deals, memikirkan hal tersebut masih belum mereda. Akun-akun anonim, yang seringkali menggunakan nama-nama umum Hindu, terus mencarinya dengan pesan-pesan kasar, ancaman licik, dan mengucapkan yang ditargetkan, beberapa di antaranya terkait dengan pekerjaannya, meskipun kehadirannya di media sosial terbatas.

“Setiap beberapa hari, ada pesan dari beberapa akun acak yang berisi ancaman perencanaan atau ancaman pembunuhan,” katanya.

Prospek gambar seksi yang dihasilkan oleh AI telah meningkatkan ketakutan tersebut. “Ketika saya membaca tentang gambar-gambar ini, rasanya sangat pribadi. Mereka menciptakan ketakutan psikosis.”

Fatima mengatakan kebencian di dunia maya juga telah membentuk cara dia menavigasi ruang publik.

“Saya merasa tidak nyaman bepergian sendirian,” katanya. “Ketika Anda melihat fantasi semacam ini beredar online tentang wanita Muslim, Anda mulai bertanya-tanya apakah seseorang mungkin akan menyerang Anda di kehidupan nyata.”

‘Saya tidak merasa aman’

Setelah videonya viral, peluang profesional Ayoub mulai hilang.

“Sebagai seorang model, reputasi Anda penting,” katanya. “Jika komentar negatif muncul di profil Anda, merek akan berhenti mendekati Anda.”

Selama empat atau lima bulan, akun palsu membanjiri profilnya dengan komentar-komentar kasar, sehingga menghalangi calon klien. Pelecehan tersebut juga mengubah lanskap dengan media sosial.

“Instagram dulunya adalah tempat yang aman bagi saya,” katanya. “Sekarang saya tidak merasa aman di sana, dan saya membatasi apa dan bagaimana saya mengirimkannya.”

Ayo laporkan kejadian tersebut ke unit kejahatan dunia maya polisi di New Delhi, dan izinkan pengaduan tertulis. “Tidak terjadi apa-apa,” katanya, seraya menambahkan bahwa sebagian besar konten kasar dihapus hanya karena teman-temannya melaporkan akun tersebut secara massal .

Pakar hukum mengatakan undang-undang yang ada di India kesulitan menyeimbangkan konten yang dihasilkan AI. “Kerugiannya nyata bahkan ketika gambar itu dibuat-buat,” kata Apar Gupta, pengacara dan direktur pendiri Internet Freedom Foundation.

Berdasarkan Pasal 66E Undang-Undang Teknologi Informasi India, hukuman pidana berlaku jika mengambil atau menyebarkan gambar area pribadi seseorang tanpa izin. Namun jika tubuh target tidak pernah benar-benar terekam – dengan kata lain, jika gambar seluruhnya dihasilkan oleh AI – ketentuan tersebut mungkin tidak berlaku.

“Bahkan jika gambar itu palsu, hal itu akan menimbulkan kesan merah permanen bagi perempuan,” kata Gupta.

Sementara itu, platform digital menikmati perlindungan “safe harbour” selama mereka menghapus materi ilegal setelah diberitahu. Namun Gupta mengatakan banyak korban yang kesulitan mencapai sejauh itu.

“Platform tidak memudahkan Anda untuk melaporkan bahwa ini adalah gambar saya, ini adalah deepfake, Anda harus menghapusnya,” katanya.

Tanpa perubahan struktural pada platform desain, prioritas algoritmik, dan kerangka hukum, AI-ge mencerminkan yang tidak disengaja akan terus menyebar lebih cepat dibandingkan sistem hukum mana pun yang dapat meresponsnya, ia memperingatkan.

Dalam skenario seperti ini, akuntabilitas masih sulit dicapai oleh perempuan Muslim yang menjadi sasarannya.

“Yang paling saya inginkan adalah menemukan orang-orang di balik akun tersebut,” kata Ayoub. “Mereka menghancurkan reputasi saya tanpa mengenal saya.”