Komdigi Hentikan Sementara Akses Grok AI, Pemerintah Antisipasi Penyalahgunaan Deepfake Asusila

KARTANEWS.COM, JAKARTA – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi menghentikan sementara akses terhadap layanan chatbot kecerdasan buatan Grok, milik platform X. Langkah ini diambil sebagai respons atas maraknya penyalahgunaan teknologi tersebut untuk membuat konten deepfake bermuatan asusila yang merugikan masyarakat.

Menteri Komunikasi dan Digital, Meutya Hafid menyampaikan bahwa keputusan pemutusan akses dilakukan sebagai langkah perlindungan terhadap ruang digital nasional, khususnya bagi kelompok rentan seperti perempuan dan anak-anak.

“Pemerintah mengambil langkah cepat untuk mencegah dampak lebih luas dari penyalahgunaan teknologi kecerdasan artifisial yang berpotensi melanggar norma kesusilaan dan merugikan hak-hak warga negara,” ujarnya dalam keterangan pers di Jakarta, Sabtu (10/1/2026).

Komdigi menilai praktik pembuatan deepfake seksual tanpa persetujuan bukan sekadar pelanggaran etika, tetapi telah menyentuh aspek pelanggaran hak asasi manusia. 

Manipulasi visual berbasis AI tersebut dinilai dapat merusak martabat individu, menciptakan trauma psikologis bagi korban, serta menghilangkan kendali seseorang atas identitas visualnya di ruang digital.

Selain melakukan pemutusan akses sementara, Komdigi juga telah memanggil perwakilan Platform X untuk memberikan penjelasan dan klarifikasi terkait mekanisme pengamanan Grok serta langkah mitigasi yang dilakukan guna mencegah penyalahgunaan teknologi AI di platform tersebut.

Langkah pemerintah ini memiliki dasar hukum, antara lain Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Regulasi tersebut mewajibkan setiap PSE memastikan layanannya tidak memuat, memfasilitasi, atau menyebarluaskan konten yang dilarang oleh peraturan perundang-undangan.

Melalui sisi penegakan hukum, Kepolisian Republik Indonesia mengingatkan bahwa pembuatan dan penyebaran konten deepfake tanpa izin pemilik data dapat dikenakan sanksi pidana. 

Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji menegaskan bahwa manipulasi data elektronik yang merugikan pihak lain merupakan perbuatan melawan hukum.

“Jika dapat dibuktikan bahwa konten tersebut merupakan hasil manipulasi data elektronik tanpa persetujuan, maka perbuatan itu dapat diproses secara pidana,” ujarnya.

Dalam beberapa waktu terakhir, fitur Grok AI menjadi sorotan global karena kemampuannya menghasilkan dan memodifikasi gambar secara instan. 

Sejumlah laporan menyebutkan fitur tersebut disalahgunakan untuk mengedit foto individu termasuk figur publik dan anak-anak menjadi konten bermuatan seksual.

Sebagai respons, Platform X mulai membatasi sebagian fitur pengeditan gambar Grok dengan mengaitkannya pada layanan berbayar X Premium. 

Namun, pemerintah menilai pembatasan tersebut belum sepenuhnya menutup celah penyalahgunaan, mengingat akses Grok masih tersedia melalui berbagai jalur lain di dalam maupun di luar platform X.

Komdigi menegaskan bahwa penghentian akses Grok bersifat sementara dan akan dievaluasi lebih lanjut. 

Ke depan, Komdigi menyatakan akan terus memperkuat pengawasan terhadap pemanfaatan teknologi kecerdasan buatan agar inovasi digital dapat berkembang secara bertanggung jawab dan tidak membahayakan masyarakat. 

Latar Belakang Aplikasi Grok AI

Grok merupakan aplikasi chatbot berbasis kecerdasan buatan yang dikembangkan oleh X AI, perusahaan teknologi milik Elon Musk. Aplikasi ini pertama kali diperkenalkan sebagai bagian dari strategi integrasi kecerdasan artifisial ke dalam platform media sosial X dengan tujuan menghadirkan asisten digital yang mampu merespons pertanyaan pengguna secara real time, menganalisis informasi terkini, serta menghasilkan teks dan gambar berdasarkan perintah pengguna.

Berbeda dengan chatbot AI pada umumnya, Grok dirancang memiliki akses langsung ke konten dan percakapan publik di platform X, sehingga mampu merespons isu aktual secara cepat. Seiring pengembangannya, Grok juga dibekali fitur pengolahan visual, termasuk pembuatan dan pengeditan gambar berbasis prompt yang memperluas fungsi AI dari sekadar pemrosesan teks menjadi produksi konten visual.

Namun, minimnya pembatasan awal terhadap fitur visual tersebut memunculkan celah penyalahgunaan. Sejumlah pengguna memanfaatkan Grok untuk memanipulasi foto individu menjadi konten deepfake bermuatan pornografi tanpa persetujuan pemilik gambar. (AUNI)