RADAR MALIOBORO - Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) kembali menimbulkan kontroversi di tengah masyarakat.
Di satu sisi AI memang menawarkan kemudahan, tapi di sisi lain juga membuka celah kejahatan siber yang serius.
Sorotan utama kini tertuju pada Grok, fitur chatbot AI yang diperkenalkan di platform X oleh Elon Musk.
Fitur chatbot Grok di platform X kini memicu kontroversi serius karena memudahkan pembuatan konten manipulatif melalui perintah teks sederhana.
Tanpa memerlukan keahlian teknis, teknologi ini memungkinkan pengguna mengedit foto menjadi gambar realistis yang sayangnya membuka celah besar bagi produksi konten berbahaya.
Penyalahgunaan ini kian meresahkan karena banyak dimanfaatkan untuk membuat manipulasi foto pornografi (deepfake) yang melanggar privasi dan merendahkan martabat korban.
Situasi ini juga memantik kecaman keras dari sejumlah artis dan figur publik di Indonesia yang mulai bersuara lantaran merasa identitas visual mereka terancam dieksploitasi tanpa izin.
Mengancam Privasi: Komdigi Siapkan Sanksi Tegas
Merespons fenomena yang meresahkan ini, Kementerian Komunikasi dan Digital (Kemkomdigi) langsung bergerak cepat.
Dilansir dari siaran pers resmi Kemkomdigi, Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan terdapat temuan awal yang cukup mengkhawatirkan.
Menurutnya, Grok AI belum memiliki pengaturan spesifik dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata.
Hal ini dinilai dapat melanggar privasi dan hak atas citra diri, di mana foto seseorang disebarluaskan tanpa persetujuan sah.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander, Rabu (7/1/2026), dikutip dari Komdigi.go.id.
Untuk menciptakan ruang digital yang aman, Kemkomdigi menggandeng Penyelenggara Sistem Elektronik (PSE) berkolaborasi menciptakan perlindungan bagi para pengguna dengan memperkuat moderasi konten, menangkal konten deepfake asusila, serta mempercepat penanganan laporan pelanggaran privasi dan citra diri.
Alexander memperingatkan bahwa Kemkomdigi siap mengambil langkah tegas dan menjatuhkan sanksi administratif hingga pemblokiran akses terhadap Grok AI dan platform X jika penyedia layanan tersebut terbukti tidak patuh atau enggan bekerja sama dengan pemerintah.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” imbuh Alexander.
Tidak hanya menghadapi sanksi administratif, penyedia platform AI maupun pengguna dapat dijerat sanksi pidana jika terbukti memproduksi atau menyebarkan konten yang dinilai mengandung unsur pornografi dan melakukan manipulasi citra pribadi tanpa izin.
Mengacu pada UU Nomor 1 Tahun 2023 (KUHP Baru) yang resmi berlaku sejak 2 Januari 2026, Pasal 407 menetapkan hukuman penjara antara 6 bulan hingga 10 tahun bagi pelanggar.
Adapun pornografi dijelaskan dalam Pasal 172 sebagai media yang mengandung unsur kecabulan atau eksploitasi seksual yang bertentangan dengan norma kesusilaan.
Polisi Bidik Pelaku
Senada dengan Kemkomdigi, aparat penegak hukum juga memberikan atensi khusus terhadap fenomena ini.
Bareskrim Polri menegaskan bahwa manipulasi foto menjadi konten vulgar menggunakan fitur AI seperti Grok dapat dipidana.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, mengategorikan tindakan pengeditan foto tersebut sebagai bentuk kejahatan deepfake yang menggunakan kecerdasan buatan.
"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI," kata Himawan menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Saat ini, pihak kepolisian tengah melakukan penyelidikan dan pengawasan intensif terhadap perkembangan fenomena ini.
Himawan juga menjelaskan bahwa manipulasi data elektronik yang dilakukan tanpa persetujuan pemiliknya adalah tindakan melawan hukum yang bisa diproses secara pidana.
"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," tegas Himawan.
Pentingnya Kesadaran dan Regulasi Digital
Fenomena penyalahgunaan Grok menjadi pengingat keras bahwa kemajuan teknologi tidak selalu diiringi dengan kesiapan etika penggunanya.
Sikap kritis sangat diperlukan untuk mencegah penyebaran konten manipulatif yang merugikan individu maupun kelompok.
Masyarakat diimbau untuk lebih berhati-hati dan bertanggung jawab.
Ruang digital bukanlah ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga negara yang harus dihormati dan dilindungi bersama.
Kemkomdigi dan para Penyelenggara Sistem Elektronik (PSE), serta pihak-pihak terkait lainnya juga diharapkan dapat menciptakan regulasi yang lebih jelas untuk memberikan perlindungan yang pasti kepada para penggunanya.
Sehingga tidak ada lagi pelanggaran-pelanggaran terhadap privasi dan hak citra diri warga Indonesia. (Aqbil Faza Maulana)
Editor : Meitika Candra Lantiva