Komdigi Hentikan Grok AI Sementara, Cegah Penyebaran Konten Pornografi Palsu

catrawarta.com — Kala siang Jakarta masih hangat, ponsel remaja di meja kafe itu tak berhenti berdengung—bukan karena trending TikTok, tapi berita yang tiba-tiba viral: pemerintah Indonesia memutus akses sementara aplikasi AI Grok. Bukan karena Grok tak keren, melainkan karena bahaya sosial yang mengikutinya.

Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) resmi melakukan langkah tegas demi melindungi masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan oleh kecerdasan buatan. Pernyataan resmi Menteri Komunikasi dan Digital, Meutya Hafid, yang dikutip dari ANTARA News, menggambarkan kekhawatiran itu dengan tegas:

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya dari Jakarta.

AI selama ini dipandang anak muda sebagai “asisten digital”, sesuatu yang membantu menjawab pertanyaan, menulis caption, atau memfilter foto sampai terlihat aesthetic. Tapi ketika teknologi yang sama bisa menghasilkan konten yang merendahkan martabat manusia, gambaran realitas berubah drastis.

Menurut pernyataan Meutya, penggunaan Grok untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang jadi objek merupakan bentuk kekerasan digital yang berdampak tidak hanya pada reputasi korban, tetapi juga secara psikologis hingga sosial.

Langkah ini bukan sekadar pemblokiran refleksif, tetapi bagian dari tanggung jawab negara dalam menjaga ruang digital yang “aman, beretika, dan menghormati hak asasi manusia.”

Pemutusan Sementara, Bukan Pelarangan Seluruhnya

Meutya menekankan bahwa pemutusan akses terhadap Grok bersifat sementara, sekaligus sebagai upaya preventif dan korektif. Ia mengungkapkan bahwa pemerintah meminta Platform X (tempat Grok beroperasi) untuk hadir dan memberikan klarifikasi terkait potensi dampak negatif penggunaan teknologi AI ini:

“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” tambah Meutya dalam pernyataannya.

Permintaan klarifikasi ini menunjukkan bahwa pemerintah ingin bekerja sama dengan penyelenggara teknologi, bukan hanya bersikap larangan total tanpa dialog.

Bagi generasi yang kesehariannya tak luput dari layar, kebijakan ini membuka ruang refleksi: teknologi bukan lagi alat netral yang hanya mempermudah hidup. Ia bisa menjadi kekuatan yang melukai, membentuk opini, dan bahkan merusak identitas seseorang jika tak disertai etika, regulasi, dan batasan yang jelas.

Tren AI dan deepfake telah mengubah cara konten dibuat dan disebarkan. Anak muda yang terbiasa konsumsi konten cepat butuh pahami bahwa setiap fiturnya punya potensi positif sekaligus negatif. Lebih jauh lagi, literasi digital dan kesadaran etis menjadi kunci agar ruang digital tetap menjadi tempat yang aman bagi siapapun.

Langkah Komdigi kali ini jadi semacam wake-up call — bahwa teknologi tanpa pengawasan yang matang bisa merugikan banyak pihak. Tapi hal yang lebih penting adalah bagaimana kita memaknai ruang digital sebagai bagian dari kehidupan sosial kita sendiri. AI mungkin terus berkembang, namun nilai kemanusiaan dan tanggung jawab digital tetap harus lebih unggul daripada sekadar kecanggihan fitur.