batampos - Kementerian Komunikasi dan Digital (Komdigi) resmi memblokir akses ke aplikasi kecerdasan buatan Grok AI untuk sementara waktu pada Sabtu (10/1).
Pemblokiran ini diambil setelah maraknya kasus penyalahgunaan Grok AI dalam membuat dan menyebarkan konten pornografi berbasis deepfake.
Gambar atau visual dari AI tampak realistis yang dibuat tanpa persetujuan dari subjek
"Keputusan ini diambil demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan melalui teknologi kecerdasan artifisial," ucap Menteri Komunikasi dan Digital, Meutya Hafid, dikutip dari Jagat Review, Senin (12/1).
Akses blokir merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9.
Aturan ini mewajibkan setiap penyelenggara sistem elektronik memastikan platformnya tidak memuat, memfasilitasi, atau menyebarkan konten elektronik yang dilarang.
Baca Juga: Pimpinan Media Jawa Pos Group Temui Mentan Amran, Kupas Strategi Swasembada Pangan 2025
Komdigi juga meminta pihak X untuk segera memberikan klarifikasi mengenai dampak negatif untuk mencegah penyalahgunaan teknologi tersebut.
Grok AI akan dibuka kembali jika platform menunjukkan komitmen untuk menerapkan filter konten yang kuat serta perlindungan yang tegas sesuai dengan hukum dan etika digital Indonesia.
Grok AI menjadi perhatian dunia dengan konten deepfake yang memiliki pelanggaran hak asasi manusia.
Beberapa negara dan regulator seperti Uni Eropa, Inggris, dan India telah mengkritik kemampuan Grok untuk menghasilkan konten yang menyerempet pelanggaran etika dan hukum.
Bahkan beberapa meminta peninjauan dokumentasi dan penerapan kontrol keamanan tambahan. Pemutusan akses dilakukan sesuai dengan regulasi Penyelenggara Sistem Elektronik (PSE).
Komdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan.
Hal ini menjadi bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.
Saat ini, akses ke Grok AI di Indonesia masih diblokir secara temporer.
Komdigi menegaskan bahwa tindakan lanjut termasuk kemungkinan pemutusan kerja sama lebih luas akan dipertimbangkan jika platform X tidak menunjukkan upaya perlindungan pengguna yang memadai.(*)
Editor : Juliana Belence