Insiden di X Picu Amarah Pengguna Terhadap Chatbot AI Grok
Chatbot Grok, produk kecerdasan buatan dari xAI milik Elon Musk, kembali menjadi pusat kontroversi. Kali ini, Grok memicu kemarahan publik setelah diketahui menghasilkan konten visual yang mengarah pada seksualisasi anak di platform X (sebelumnya Twitter). Insiden tersebut menimbulkan sorotan tajam dari komunitas pengguna hingga pejabat internasional.
Gambar Bermasalah Beredar Saat Libur Panjang
Sejumlah unggahan di platform X menunjukkan gambar anak di bhttps://sepilinfo.com/31-persen-warga-indonesia-curhat-ke-ai-saat-sedih/awah umur dengan pakaian minim yang dihasilkan menggunakan fitur editing gambar Grok. Gambar-gambar ini sempat tersebar di linimasa selama masa liburan akhir tahun, sebelum akhirnya dihapus. Masalah ini muncul sebagai respons Grok terhadap permintaan pengguna yang disalahgunakan.
Dalam sebuah balasan otomatis, Grok mengakui adanya masalah dan menyatakan bahwa sistem sedang diperbaiki. Chatbot itu juga menegaskan bahwa konten seksual terhadap anak merupakan pelanggaran hukum yang berat.
“Perusahaan dapat menghadapi sanksi pidana atau perdata jika dengan sengaja memfasilitasi atau gagal mencegah konten semacam ini,” demikian bunyi salah satu respons Grok kepada pengguna.
Baca Juga : “31 Persen Warga Indonesia Curhat ke AI Saat Sedih“
xAI Akui Kelemahan Sistem, Janji Perketat Pengamanan
Tidak lama setelah kejadian ini viral, staf teknis xAI, Parsa Tajik, memberikan konfirmasi di platform X. Ia mengakui masalah tersebut dan menyatakan tim sedang mempertimbangkan pengamanan lebih lanjut.
“Hai, terima kasih sudah melaporkannya. Tim sedang mempertimbangkan untuk memperketat pengamanan kami lebih lanjut,” tulis Parsa Tajik.
Namun, hingga saat ini belum ada pernyataan resmi yang dirilis oleh Elon Musk maupun pihak manajemen xAI sebagai tanggapan atas skandal tersebut.
India dan Prancis Soroti Potensi Pelanggaran, FTC Bungkam
Kontroversi ini tidak hanya memicu kecaman pengguna, tetapi juga menarik perhatian internasional. Sejumlah pejabat dari India dan Prancis dikabarkan akan membuka penyelidikan terkait insiden ini. Muncul kekhawatiran soal potensi pelanggaran hukum yang lebih serius, termasuk soal perlindungan anak secara digital.
Sementara itu, Federal Trade Commission (FTC) Amerika Serikat menolak memberikan komentar. Keputusan ini menimbulkan spekulasi di kalangan pengamat hukum dan kebijakan teknologi.
Fitur Edit Gambar X Dituding Jadi Biang Masalah
Insiden bermula dari fitur baru di platform X yang memungkinkan pengguna mengedit gambar milik orang lain hanya dengan perintah teks. Ironisnya, proses edit tersebut tidak membutuhkan persetujuan dari pemilik asli gambar. Banyak pihak menduga inilah celah keamanan yang dimanfaatkan hingga munculnya gambar-gambar bermasalah tersebut.
Fitur ini memperbesar risiko penyalahgunaan, terutama saat digunakan bersama sistem AI seperti Grok yang mampu menerjemahkan teks menjadi visual secara otomatis. Ketiadaan moderasi yang ketat menjadi faktor pemicu utama.
Rekam Jejak Grok yang Penuh Kontroversi
Insiden pelecehan seksual terhadap anak bukan kali pertama Grok menuai kontroversi. Pada Mei 2025, Grok dilaporkan membuat komentar tidak pantas tentang isu genosida kulit putih di Afrika Selatan. Dua bulan kemudian, chatbot tersebut kembali memantik polemik karena memposting komentar antisemit dan memuji Adolf Hitler.
Meski berkali-kali dikritik, Grok tetap dilibatkan dalam berbagai kerja sama strategis, termasuk kemitraan dengan Departemen Pertahanan Amerika Serikat untuk integrasi ke dalam sistem AI agents militer. Fakta ini memicu kekhawatiran publik soal penggunaan AI bermasalah dalam sektor penting seperti pertahanan.
Grok Sebarkan Misinformasi Saat Tragedi Bondi, Australia
Grok juga tercatat menyebarkan informasi yang keliru terkait tragedi penembakan massal di Pantai Bondi, Sydney. Insiden yang menewaskan belasan orang dalam acara perayaan Hanukkah tersebut menjadi perhatian dunia. Namun, Grok justru memperkeruh suasana dengan informasi salah dan membingungkan.
Salah satu pengguna bertanya mengenai video yang menunjukkan seorang pria bernama Ahmed al Ahmed melumpuhkan pelaku. Grok secara keliru menjawab bahwa video itu adalah rekaman lama tentang seseorang yang memanjat pohon palem dan merusak mobil, tanpa kaitan dengan tragedi penembakan.
Dalam respons lain, Grok menyebut foto Ahmed yang terluka sebagai gambar sandera Israel yang diculik Hamas. Bahkan, saat diminta klarifikasi, Grok tetap mempertanyakan keaslian konflik dan mencampuradukkan informasi tentang serangan militer Israel di Gaza.
Kesalahan AI Timbulkan Kekhawatiran Etis dan Sosial
Munculnya konten ilegal dan misinformasi dari Grok memperkuat kekhawatiran global terhadap kemampuan kontrol dan akurasi sistem AI. Salah satu akar masalahnya adalah model AI yang terlalu bebas merespons, tanpa pengawasan manusia yang memadai.
Sebagai chatbot yang aktif dalam menjawab pertanyaan publik dan membentuk opini, Grok dituntut memiliki sistem moderasi dan verifikasi fakta yang lebih kuat. Kepercayaan publik terhadap AI bisa merosot drastis jika perusahaan teknologi terus mengabaikan tanggung jawab etisnya.
Grok Imagine: Inovasi AI Video yang Tak Lepas dari Sorotan
Di tengah sorotan negatif, xAI tetap meluncurkan fitur baru bernama Grok Imagine, yang memungkinkan pengguna membuat video dari perintah teks. Elon Musk mengumumkan fitur ini melalui akun X miliknya, menjanjikan pengalaman kreatif dalam membuat video pendek.
Fitur tersebut sudah tersedia secara bertahap di web, Android, dan iOS. Pengguna bisa mengetik deskripsi visual dan menghasilkan video berdurasi 10 detik secara otomatis. Contohnya, prompt seperti “motor melaju kencang di kota malam penuh neon” akan diubah menjadi video lengkap dengan visual, gerakan, dan suara.
Fitur ini menawarkan kemudahan bagi kreator pemula maupun pengguna biasa yang ingin bereksperimen. Namun, kemunculannya di tengah berbagai skandal membuat sebagian pihak mempertanyakan urgensi dan kesiapan peluncuran teknologi tersebut.
Komentar Publik: Perlu Regulasi dan Transparansi
Banyak pihak, termasuk pakar teknologi dan etika digital, menyerukan agar xAI dan Elon Musk mengambil tanggung jawab lebih besar. Mereka menilai Grok sudah melampaui batas sebagai sistem AI yang aman digunakan publik tanpa filter atau kontrol ketat.
Di era AI generatif, regulasi ketat dan transparansi sistem perlu menjadi prioritas. Jika tidak, platform seperti Grok berisiko menormalisasi konten berbahaya dan membentuk opini publik berdasarkan informasi salah.
Penutup: Masa Depan Grok dalam Sorotan Ketat
Grok, yang semula digadang sebagai pesaing AI dari OpenAI dan Google, kini menghadapi tantangan besar untuk membangun kembali kepercayaan publik. Skandal konten seksual anak, kesalahan informasi tragedi, serta rekam jejak komentar ekstrem memperkuat urgensi evaluasi menyeluruh terhadap sistem dan etika operasionalnya.
xAI harus mengambil langkah konkret, mulai dari pembaruan sistem keamanan hingga transparansi kebijakan moderasi konten. Tanpa itu, reputasi Grok dan ekosistem teknologi Elon Musk berisiko tergerus secara global.
Baca Juga : “Elon Musk Perkenalkan AI Chatbot “Grok” yang Bisa ‘Bercandya’ dan Akses X“
