• Redaksi
• 10 Januari, 2026

Eva Putriya Hasanah 

Perkembangan kecerdasan buatan (artificial Intelligence/AI) semakin menunjukkan pengaruh besar dalam kehidupan masyarakat digital. Salah satu teknologi yang belakangan menjadi sorotan adalah Grok AI, chatbot berbasis AI yang terintegrasi langsung dengan platform X (sebelumnya Twitter). Alih-alih hanya menuai pujian atas kecanggihannya, Grok AI kini berada dalam kontroversi kontroversi setelah Kementerian Komunikasi dan Digital (Kemkomdigi) mendalami dugaannya untuk pembuatan dan penyebaran konten asusila, termasuk manipulasi foto pribadi tanpa izin pemiliknya.

Dalam siaran pers resminya, Kemkomdigi menyampaikan atas maraknya laporan masyarakat terkait penggunaan Grok AI untuk menghasilkan konten yang memuat konten pornografi dan deepfake. Praktik ini dinilai tidak hanya melanggar norma kesusilaan, tetapi juga berpotensi melanggar hak privasi dan hak atas citra diri seseorang. Di era digital, citra diri tidak lagi sekadar foto atau gambar, melainkan bagian dari identitas pribadi yang memiliki konsekuensi sosial, psikologis, dan hukum.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi menjelaskan bahwa hasil penelusuran awal menunjukkan belum optimalnya sistem moderasi konten pada Grok AI. Celah inilah yang diduga dimanfaatkan oleh oknum tertentu untuk memanipulasi foto individu—termasuk foto orang biasa—menjadi konten asusila. Fenomena ini menjadi alarm keras bahwa teknologi secanggih apa pun tetap menyimpan risiko ketika tidak dibarengi dengan sistem pengamanan dan etika yang memadai.

Pemerintah menegaskan bahwa seluruh Penyelenggara Sistem Elektronik (PSE) yang beroperasi di Indonesia wajib tunduk pada peraturan nasional. Kemkomdigi saat ini tengah berkoordinasi dengan pihak platform X untuk meminta klarifikasi, peningkatan mekanisme moderasi, serta komitmen perlindungan pengguna. Jika dalam proses pendalaman ditemukan ketidakpatuhan, sanksi administratif hingga pemutusan akses layanan bukanlah opsi yang dikesampingkan. Ancaman pemblokiran ini menegaskan posisi negara dalam melindungi warganya dari dampak negatif teknologi digital.

Kasus Grok AI juga menampilkan bahwa isu kecerdasan buatan tidak bisa dipandang hanya sebagai persoalan teknologi. Ia bersinggungan langsung dengan aspek hukum, etika, dan perlindungan hak asasi manusia. Sejak diberlakukannya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP), konten pornografi dan manipulasi data elektronik memiliki konsekuensi pidana yang lebih tegas. Dengan demikian, mencakup AI untuk konten asusila bukan hanya masalah pelanggaran kebijakan platform, tetapi juga berpotensi masuk ranah tindak pidana.

Sorotan terhadap Grok AI juga datang dari DPR dan kalangan akademisi. Sejumlah anggota DPR meminta pemerintah mengumumkan dengan tegas dan tidak ragu mengambil tindakan ekstrem apabila keselamatan masyarakat terancam. Akademisi hukum digital menilai praktik manipulasi foto berbasis AI sebagai bentuk kekerasan berbasis teknologi, karena dapat merusak reputasi, martabat, dan rasa aman korban, terutama perempuan dan kelompok rentan.

Di sisi lain, aparat penegak hukum juga menyatakan kesiapan untuk mematuhi laporan masyarakat. Manipulasi gambar asusila tanpa izin dapat dianggap sebagai pelanggaran serius terhadap hukum pidana dan Undang-Undang Informasi dan Transaksi Elektronik. Bukti digital, jejak unggahan, serta teknologi forensik menjadi kunci dalam mengungkap pelaku dibalik kejahatan berbasis AI ini.

Namun, persoalan Grok AI juga membuka diskusi yang lebih luas tentang masa depan pengelolaan kecerdasan buatan. AI pada dasarnya adalah alat—ia bisa menjadi sarana edukasi, kreativitas, dan efisiensi, tetapi juga bisa menjadi instrumen pelanggaran jika digunakan tanpa tanggung jawab. Oleh karena itu, pengaturan regulasi, transparansi algoritma, serta literasi digital menjadi kebutuhan masyarakat yang mendesak.

Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi foto atau konten asusila berbasis AI untuk segera melapor melalui kanal resmi pemerintah atau aparat penegak hukum. Pelaporan tidak hanya penting bagi pemulihan korban, tetapi juga untuk mencegah meluasnya praktik serupa di ruang digital.

Kasus dugaan mengacu pada Grok AI menjadi pengingat bahwa inovasi teknologi harus selalu berjalan seiring dengan perlindungan etika dan hukum. Tanpa pengawasan yang kuat, kecanggihan justru dapat berubah menjadi ancaman. Di tengah pesatnya perkembangan AI, kolaborasi antara pemerintah, platform digital, dan masyarakat menjadi kunci untuk menciptakan ruang digital yang aman, terbuka, dan berkeadilan.