Kemkomdigi Peringatkan Penyalahgunaan Grok AI untuk Konten

[DITULIS PADA: 7 Januari 2026]

Surabaya — Kementerian Komunikasi dan Digital (Kemkomdigi) mengeluarkan peringatan resmi kepada masyarakat dan penyedia layanan digital terkait penyalahgunaan teknologi kecerdasan buatan Grok AI untuk pembuatan konten asusila, termasuk manipulasi foto dan deepfake cabul. Peringatan tersebut disampaikan di Jakarta, Rabu (7/1/2026), menyusul hasil penelusuran awal yang menemukan celah pengaturan pada platform X yang berpotensi dimanfaatkan untuk memproduksi konten pornografi berbasis citra warga Indonesia tanpa izin.

Peringatan ini muncul setelah Kemkomdigi menerima dan menelaah berbagai laporan mengenai maraknya penyebaran gambar dan video manipulatif yang menampilkan wajah individu, termasuk figur publik, dalam konteks seksual yang tidak sesuai fakta dan tanpa persetujuan. Fenomena tersebut dinilai tidak hanya melanggar norma kesusilaan, tetapi juga berpotensi merusak martabat, reputasi, serta keamanan korban di ruang digital.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan pemerintah memandang serius perkembangan penyalahgunaan kecerdasan buatan yang tidak diiringi dengan perlindungan memadai terhadap hak privasi dan hak atas citra diri. Menurut dia, teknologi pada dasarnya bersifat netral, namun penggunaan yang menyimpang dapat menimbulkan dampak hukum dan sosial yang luas.

“Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak atas citra diri dapat menempuh upaya hukum sesuai ketentuan yang berlaku,” ujar Alexander dalam keterangan pers resmi Kemkomdigi, Rabu (7/1/2026).

Ia menambahkan, berdasarkan hasil penelusuran awal, Grok AI belum memiliki pengaturan yang secara eksplisit dan memadai untuk mencegah produksi serta penyebaran konten pornografi atau manipulasi citra pribadi, khususnya yang melibatkan warga Indonesia. Temuan ini menjadi dasar bagi Kemkomdigi untuk melakukan pendalaman lebih lanjut terhadap kepatuhan penyedia layanan terhadap regulasi nasional.

Kasus dugaan penyalahgunaan Grok AI tersebut mencuat di tengah meningkatnya laporan serupa di berbagai negara. Otoritas di Prancis, Malaysia, dan India dilaporkan juga melakukan penyelidikan terkait penyebaran konten deepfake seksual pada platform yang sama. Kondisi ini menunjukkan bahwa tantangan pengawasan teknologi kecerdasan buatan bersifat lintas negara dan membutuhkan perhatian serius dari pemerintah di masing-masing yurisdiksi.

Di dalam negeri, perhatian terhadap penyalahgunaan teknologi kecerdasan buatan semakin menguat setelah terungkapnya kasus di Semarang pada Oktober 2025. Dalam kasus tersebut, seorang mahasiswa berinisial Chiko ditetapkan sebagai tersangka karena diduga membuat dan menyebarkan lebih dari 300 unggahan cabul serta menyimpan sekitar 1.100 video hasil rekayasa AI. Materi tersebut menampilkan wajah sejumlah siswi dan seorang guru yang dimanipulasi ke dalam konten pornografi. Perkara ini masih diproses sesuai mekanisme hukum yang berlaku.

Kemkomdigi menilai kasus tersebut menjadi contoh nyata bagaimana teknologi AI dapat disalahgunakan untuk tindakan yang merugikan individu dan masyarakat luas. Oleh karena itu, pemerintah menekankan pentingnya tanggung jawab pengguna dan penyedia layanan digital dalam memanfaatkan teknologi yang terus berkembang.

Dari sisi hukum, Alexander Sabar menjelaskan bahwa perbuatan memproduksi, menyebarkan, atau memfasilitasi konten pornografi dan manipulasi citra pribadi tanpa hak dapat dijerat dengan ketentuan pidana. Berdasarkan Kitab Undang-Undang Hukum Pidana (KUHP), pornografi didefinisikan sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan sebagaimana diatur dalam Pasal 172.

Selain itu, mengacu pada Pasal 407 KUHP, setiap orang yang memproduksi, menyebarkan, atau memfasilitasi konten pornografi dapat dikenai ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun, atau pidana denda sesuai ketentuan. Penegakan pasal tersebut dilakukan berdasarkan pembuktian dan proses hukum oleh aparat penegak hukum.

Di luar aspek pidana, Kemkomdigi juga mengingatkan adanya kewajiban penyelenggara sistem elektronik untuk mematuhi peraturan perundang-undangan yang berlaku di Indonesia. Kementerian berwenang melakukan langkah administratif terhadap platform digital yang dinilai tidak kooperatif atau tidak memenuhi kewajiban perlindungan pengguna, sesuai mekanisme yang diatur dalam regulasi nasional.

Dampak dari penyalahgunaan teknologi AI untuk konten asusila dinilai sangat serius, terutama bagi korban. Sejumlah penelitian yang dikutip pemerintah menunjukkan bahwa korban konten intim non-konsensual, termasuk revenge porn dan deepfake seksual, berisiko mengalami gangguan kecemasan, depresi, trauma psikologis, hingga pengucilan sosial. Risiko lanjutan seperti doxing dan pemerasan juga kerap menyertai kasus-kasus tersebut.

Dalam konteks global, laporan dari Internet Watch Foundation hingga Agustus 2025 mencatat adanya 224 kasus pemerasan seksual dari total 723 laporan yang ditindak. Praktik sextortion dengan memanfaatkan konten manipulatif berbasis AI bahkan dilaporkan telah menyebabkan sejumlah korban, termasuk remaja, mengakhiri hidupnya. Data tersebut menjadi peringatan bahwa kejahatan berbasis teknologi dapat membawa konsekuensi nyata dan fatal.

Kemkomdigi mengimbau masyarakat untuk menggunakan teknologi kecerdasan buatan secara bertanggung jawab dan beretika. Pemerintah menegaskan bahwa ruang digital bukanlah ruang tanpa hukum, dan setiap aktivitas di dalamnya tetap tunduk pada aturan yang berlaku di Indonesia.

Bagi korban kejahatan siber, Kemkomdigi menyarankan agar segera mengamankan bukti digital, seperti tangkapan layar, tautan, dan metadata, kemudian melaporkan kejadian tersebut kepada aparat penegak hukum. Laporan dapat disampaikan melalui Direktorat Tindak Pidana Siber Bareskrim Polri atau Sentra Pelayanan Kepolisian Terpadu (SPKT) di wilayah masing-masing.

Saat ini, Kemkomdigi menyatakan penyelidikan terhadap dugaan penyalahgunaan Grok AI masih berlangsung. Kementerian melakukan koordinasi dengan pihak terkait untuk menilai langkah lanjutan yang diperlukan, termasuk kemungkinan penyesuaian kebijakan dan penguatan pengawasan terhadap layanan berbasis kecerdasan buatan.

Sementara itu, pemilik platform X, Elon Musk, sebelumnya menyatakan bahwa siapa pun yang menggunakan Grok AI untuk membuat konten ilegal akan menghadapi konsekuensi hukum sesuai ketentuan yang berlaku. Pernyataan tersebut menjadi bagian dari perhatian internasional terhadap tata kelola dan tanggung jawab platform digital dalam mencegah penyalahgunaan teknologi.

Pemerintah menegaskan komitmennya untuk melindungi masyarakat dari dampak negatif teknologi digital, sekaligus mendorong pemanfaatan kecerdasan buatan secara aman, etis, dan bertanggung jawab. Upaya pengawasan dan penegakan hukum diharapkan dapat berjalan seiring dengan edukasi publik agar ruang digital tetap menjadi lingkungan yang aman bagi seluruh warga.