JENDELAMALUKU.COM – Kementerian Komunikasi dan Digital (Kemkomdigi) mengingatkan masyarakat untuk meningkatkan kewaspadaan terhadap potensi penyalahgunaan foto pribadi di ruang digital, seiring berkembangnya teknologi kecerdasan buatan (AI) yang dapat dimanfaatkan untuk memanipulasi citra tanpa persetujuan pemiliknya.
Peringatan ini disampaikan menyusul temuan awal Kemkomdigi terkait dugaan pemanfaatan fitur Grok AI pada platform X untuk memproduksi dan menyebarkan konten asusila berbasis foto nyata warga Indonesia.
Praktik tersebut dinilai berpotensi melanggar hak privasi serta hak atas citra diri seseorang.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar mengungkapkan, hasil penelusuran sementara menunjukkan belum adanya pengaturan yang eksplisit dan memadai dalam Grok AI untuk mencegah produksi maupun distribusi konten pornografi berbasis foto pribadi.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dikutip dari laman resmi Komdigi.
Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Dampak dari praktik tersebut dapat meluas, mulai dari tekanan psikologis, stigma sosial, hingga kerugian reputasi bagi korban.
Untuk menutup celah pengamanan tersebut, Alexander menyampaikan, Kemkomdigi saat ini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE).
Langkah ini dilakukan guna memastikan tersedianya mekanisme perlindungan yang efektif, termasuk penguatan moderasi konten, pencegahan pembuatan deepfake bermuatan asusila, serta percepatan penanganan laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Kemkomdigi juga menegaskan, seluruh PSE yang beroperasi di Indonesia tetap terikat pada kewajiban kepatuhan terhadap peraturan perundang-undangan nasional.
Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
Selain itu, Kemkomdigi mengingatkan, penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.
