RADAR MALIOBORO - Maraknya penyalahgunaan fitur kecerdasan buatan (AI) Grok mendorong pemerintah Indonesia mengambil langkah tegas dengan melakukan pemblokiran.
Kebijakan tersebut diambil setelah muncul berbagai laporan penyalahgunaan Grok oleh sejumlah pengguna yang dinilai merugikan pihak lain serta menciptakan ruang publik di media sosial yang tidak aman dan tidak nyaman bagi warganet.
Melalui Kementerian Komunikasi dan Digital (Kemkomdigi), Indonesia menjadi negara pertama yang memberlakukan pemutusan sementara terhadap fitur AI Grok.
Penyalahgunaan tersebut dengan mengenerate gambar deepfake yang mengandung unsur seksual di dalamnya.
Melansir dari Antara, Meutya Hafid selaku Menkomdigi menyebut bahwa hal tersebut merupakan pelanggaran dengan intensitas serius akan HAM dan martabat warga.
“Pemerintah berlakukan pemutusan sementara akses menuju AI Grok untuk melindungi perempuan, anak dan seluruh masyarakat Indonesia dari deepfake ponografi,” ujar Meutya.
Penyalahgunaan dengan menggunakan AI ini membuat pemerintah juga warganet menilai sebagai ancaman keamanan, privasi juga nilai kemanusiaan.
“Iyakan haha jadi takut mau upload foto padahal lagi pengen upload,” cuitan pada akun X @cuttyfrutty_,
“Eh sumpah ngeri banget ni fitur emang,” ujar akun X @kopiirenkk_.
Menurut Meutya, ruang digital merupakan ruang publik yang tidak boleh bebas hukum.
Selain penutupan akses sementara, pemerintah Indonesia juga menuntut X selaku penyedia AI Grok untuk bertanggung jawab atas dampak yang ditimbulkan.
Pemutusan akses tersebut sejalan dengan Regulasi Kominfo Nomor 5 Tahun 2020 menegaskan kewajiban platform digital dalam mencegah hadirnya konten ilegal atau terlarang di dalam sistem dan layanan mereka.
Aksi pembatasan atau blokir terhadap AI Grok ini kemudian disusul oleh Negara Malaysia.
Menurut Komisi Komunikasi dan Multimedia Malaysia alasan Malaysia memblokir Grok ini dikarenakan AI tersebut menghasilkan gambar deepfake yang berbau seksual dan cabul tanpa adanya persetujuan dari pemilik asli foto. (Salwa Caesy)
Editor : Meitika Candra Lantiva