ANGGOTA Komisi I DPR Amelia Anggraini menilai pemanfaatan sistem akal imitasi (AI) Grok—layanan AI yang terintegrasi di platform media sosial X (sebelumnya Twitter)—untuk produksi dan penyebaran konten bermuatan seksual tanpa persetujuan merupakan pelanggaran serius terhadap martabat manusia, hak privasi, dan pelindungan data pribadi. Belakangan, teknologi tersebut dilaporkan digunakan untuk memanipulasi foto pribadi pengguna yang bersifat sensitif tanpa persetujuan pemiliknya.

Politikus Partai NasDem ini menegaskan, praktik memanipulasi foto seseorang ke dalam konten seksual tanpa persetujuan tidak bisa dipandang sekadar sebagai persoalan kesusilaan. Menurut dia, tindakan itu telah masuk kategori kekerasan berbasis teknologi yang berpotensi menimbulkan kerugian psikologis, sosial, hingga reputasi bagi korban. “Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu perampasan hak individu atas citra dirinya,” kata Amelia melalui keterangan tertulis pada Jumat, 9 Januari 2026.

Ia menjelaskan, dalam perspektif Undang-Undang Pelindungan Data Pribadi (UU PDP), wajah seseorang dalam foto hingga video merupakan bagian dari data pribadi yang tidak boleh diproses secara serampangan. Dia mendorong Kementerian Komunikasi dan Digital untuk menagih kepatuhan platform digital dan penyedia layanan AI dengan standar yang jelas dan dapat diuji.

Amelia meminta Kementerian bersikap proaktif dan tidak menunggu hingga kasus serupa menjadi viral. Dia menekankan bahwa negara wajib hadir melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi publik.

“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius. Selain itu, negara juga harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,” ujar politikus asal daerah pemilihan Jawa Tengah VII itu.

Amelia juga mendesak penguatan standar kepatuhan Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan penyedia layanan AI. Standar tersebut, menurut Amelia, harus mencakup pencegahan sejak desain sistem (prevention by design) terhadap permintaan konten seksual berbasis orang nyata, dan sistem moderasi konten yang transparan dan dapat diaudit.

Ihwal penegakan hukum terhadap penyalahgunaan layanan AI itu, Amelia menegaskan, langkah administratif harus berjalan seiring dengan ketentuan pidana baru yang mulai berlaku awal Januari ini. Ia mengingatkan Kitab Undang-Undang Hukum Pidana (KUHP) Nasional telah berlaku sejak 2 Januari 2026, dengan ketentuan mengenai pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. “Ini menegaskan bahwa ruang digital bukan ruang tanpa hukum,” kata dia.

Layanan Grok di media sosial X memantik perdebatan mengenai etika penggunaan akal imitasi. Banyak pengguna X yang meminta Grok untuk mengubah foto tertentu melalui instruksi tertulis. Salah satunya perintah mengedit foto seseorang menggunakan bikini. Padahal, pengguna yang mengunggah foto tersebut awalnya mengenakan pakaian tertutup.

Kementerian Komunikasi dan Digital menindaklanjuti dugaan penyalahgunaan fitur akal imitasi Grok di X itu. Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar mengatakan, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif.

Ia menegaskan, PSE harus memiliki mekanisme pelindungan yang efektif bagi pengguna. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” kata Alexander melalui keterangan tertulis pada Rabu, 7 Januari 2026. Ia mengingatkan adanya kewajiban kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh PSE yang beroperasi di Indonesia.