Grok AI Diblokir Demi Melindungi Publik dari Ancaman Visual Nonetis
Pemerintah Indonesia resmi memutus akses Grok AI, aplikasi kecerdasan buatan yang disinyalir digunakan untuk membuat konten manipulatif berbasis pornografi. Langkah ini diambil sebagai bentuk perlindungan terhadap masyarakat, terutama perempuan dan anak, dari bahaya deepfake seksual yang tidak sesuai norma dan hukum nasional.
Menkomdigi Tegaskan Posisi Tegas Negara terhadap Deepfake Asusila
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menyatakan bahwa pemblokiran Grok AI adalah tindakan yang sah dan dibutuhkan. Ia menekankan bahwa negara tidak akan mentolerir pemanfaatan teknologi untuk kejahatan seksual digital, terlebih yang melibatkan wajah atau tubuh warga tanpa persetujuan mereka.
“Kami berkomitmen menjaga ruang digital tetap aman dan beradab,” tegas Meutya dalam pernyataan tertulisnya pada Sabtu, 10 Januari 2026.
Ia juga menyampaikan bahwa pelanggaran terhadap privasi dan kehormatan warga negara melalui deepfake bukan sekadar isu moral, tetapi menyangkut hak asasi manusia yang dilindungi undang-undang.
Baca Juga : “Produsen Smartphone 2026 Tinggalkan Sensor Kamera 1 Inci“
Pemerintah Panggil Platform X, Minta Klarifikasi Integrasi Grok
Sebagai tindak lanjut, Kemkomdigi memanggil perwakilan Platform X (sebelumnya Twitter) untuk meminta penjelasan resmi atas penggunaan dan penyebaran Grok AI di sistem mereka. Pemerintah ingin memastikan bahwa perusahaan digital yang beroperasi di Indonesia tidak menjadi sarana penyebaran konten ilegal.
Langkah ini menunjukkan bahwa pemerintah juga serius menindak pihak-pihak yang memfasilitasi teknologi dengan potensi pelanggaran hukum. Tidak hanya pengembang, penyedia platform pun dituntut bertanggung jawab secara sistemik.
Landasan Hukum: Pemblokiran Mengacu pada Aturan PSE Privat
Pemutusan akses Grok AI mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Pasal 9 aturan tersebut mewajibkan penyelenggara untuk memastikan sistem mereka tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang undang-undang.
Dengan demikian, tindakan pemblokiran memiliki dasar hukum yang sah dan kuat. Pemerintah tidak serta-merta memblokir tanpa alasan jelas, melainkan mengikuti prosedur regulasi perlindungan ruang digital.
Dirjen Komdigi Ungkap Celah Keamanan Grok AI
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan hasil pemantauan internal yang menunjukkan bahwa Grok AI tidak memiliki sistem proteksi yang memadai. Aplikasi tersebut belum mampu membatasi penggunaan untuk membuat konten seksual berbasis manipulasi foto pribadi.
“Kami menemukan tidak adanya fitur pencegahan eksplisit terhadap produksi konten asusila dengan wajah warga Indonesia,” jelas Alexander dalam konferensi persnya, Rabu (7/1/2026).
Ia menyebut ketiadaan pengamanan tersebut sebagai bentuk kelalaian serius dari pengembang Grok AI, yang berpotensi menimbulkan dampak psikologis hingga sosial terhadap korban yang wajahnya disalahgunakan.
Deepfake Porno Dinilai sebagai Perampasan Identitas Visual
Pemerintah menilai bahwa tindakan deepfake asusila bukan hanya persoalan etika, tetapi juga bentuk perampasan identitas visual. Korban tidak hanya kehilangan kendali atas citra dirinya, tetapi juga dapat mengalami trauma dan kehancuran reputasi sosial yang sulit dipulihkan.
Isu ini menjadi krusial karena menyangkut keamanan digital secara luas. Oleh karena itu, negara harus hadir dalam memberikan perlindungan kepada semua warga, terutama dari penyalahgunaan teknologi yang berkembang sangat cepat.
Sanksi Menanti Jika Pihak Terkait Tak Kooperatif
Komdigi menegaskan bahwa seluruh penyelenggara layanan digital yang beroperasi di Indonesia wajib patuh pada regulasi nasional. Jika ditemukan ketidakpatuhan atau penolakan kerja sama, pemerintah siap menjatuhkan sanksi administratif berupa denda hingga penutupan layanan permanen.
“Jika tidak ada itikad baik, kami dapat memberlakukan sanksi penuh terhadap Grok AI maupun platform X,” ungkap Alexander.
Tindakan ini sekaligus menjadi peringatan bagi seluruh perusahaan teknologi agar mengedepankan prinsip tanggung jawab sosial dan hukum saat mengembangkan atau menyediakan layanan berbasis kecerdasan buatan.
Imbauan Pemerintah: Laporkan Jika Jadi Korban Deepfake
Pemerintah mendorong masyarakat untuk segera melapor jika menjadi korban atau menemukan konten deepfake asusila. Pelaporan bisa dilakukan melalui kanal resmi Komdigi atau langsung ke aparat penegak hukum terdekat.
Masyarakat diimbau agar tidak membagikan ulang konten semacam itu, karena turut menyebarkan materi ilegal dapat dikategorikan sebagai pelanggaran hukum.
“Kami minta seluruh pihak menggunakan teknologi AI secara bijak. Setiap warga memiliki hak atas privasi dan citra diri yang harus dihormati,” tegas Alexander.
Penutup: Teknologi Harus Selaras dengan Etika dan Hukum
Langkah pemerintah memblokir Grok AI bukanlah bentuk anti-inovasi, melainkan upaya menegakkan etika dan perlindungan hukum di ruang digital. Di tengah maraknya penggunaan AI, penting bagi semua pihak — pengembang, platform, dan pengguna — untuk memahami tanggung jawabnya masing-masing.
Ke depan, Kemkomdigi akan memperketat regulasi dan meningkatkan pemantauan atas teknologi baru yang masuk ke Indonesia. Tujuannya jelas: menjaga ruang digital yang sehat, aman, dan bermartabat untuk semua.
Baca Juga : “Bareskrim Sebut Manipulasi Foto Mesum Lewat Grok AI Bisa Dipidana“
