Kemkomdigi Blokir Aplikasi Grok yang Dinilai Bisa Memproduksi Konten Pornografi

jpnn.com, JAKARTA - Pemerintah Indonesia menarik rem darurat terhadap laju teknologi kecerdasan buatan (AI), yaitu aplikasi Grok.

Melalui Kementerian Komunikasi dan Digital (Kemkomdigi), Grok diputus sementara menyusul kekhawatiran penyalahgunaan fitur AI untuk memproduksi konten pornografi palsu berbasis deepfake.

Langkah itu ditegaskan sebagai upaya melindungi perempuan, anak, dan masyarakat luas dari kekerasan berbasis digital.

Menteri Komunikasi dan Digital Meutya Hafid menyatakan praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia.

“Ini bukan sekadar isu teknologi, tetapi menyangkut martabat dan keamanan warga negara di ruang digital,” ujarnya dalam pernyataan resmi di Jakarta, Sabtu (10/1).

Pemutusan akses Grok bersifat sementara dan ditempatkan sebagai langkah preventif sekaligus korektif.

Pemerintah ingin memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai, agar tidak dimanfaatkan untuk memproduksi maupun menyebarkan konten terlarang.

Komdigi juga telah memanggil Platform X—induk ekosistem Grok—untuk memberikan klarifikasi.