Jakarta-Mediadelegasi : Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Langkah ini diambil setelah ditemukannya indikasi bahwa teknologi tersebut dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan adanya celah keamanan pada sistem kecerdasan buatan tersebut. Grok AI dinilai belum memiliki pengaturan eksplisit yang memadai untuk menyaring permintaan pembuatan konten pornografi berbasis foto nyata.
Ketiadaan sistem filtrasi yang ketat ini dianggap membahayakan warga Indonesia, terutama terkait pelanggaran hak privasi. Alexander menekankan bahwa hak atas citra diri (right to one’s image) sangat rentan ketika foto seseorang dimanipulasi secara digital tanpa adanya izin yang sah dari individu yang bersangkutan.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi warga,” ujar Alexander dalam keterangan resminya di Jakarta, Rabu (07/01/2026).
Lebih lanjut, Kemkomdigi memandang bahwa manipulasi digital menggunakan kecerdasan buatan bukan sekadar masalah pelanggaran norma kesusilaan semata. Fenomena ini merupakan bentuk perampasan kendali individu atas identitas visualnya yang dapat memicu dampak traumatis, mulai dari kerugian psikologis hingga rusaknya reputasi sosial.
Guna merespons ancaman ini, Kemkomdigi tengah melakukan koordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE) terkait. Fokus utama koordinasi ini adalah memastikan ketersediaan mekanisme perlindungan yang efektif bagi pengguna internet di Indonesia agar terhindar dari penyalahgunaan teknologi AI.
Upaya perlindungan tersebut mencakup beberapa poin krusial, mulai dari penguatan sistem moderasi konten secara otomatis hingga pencegahan pembuatan deepfake asusila. Kemkomdigi juga menuntut adanya prosedur penanganan cepat jika terjadi laporan pelanggaran privasi agar konten ilegal bisa segera dihapus.
Alexander menegaskan bahwa setiap PSE memiliki tanggung jawab moral dan hukum atas teknologi yang mereka luncurkan ke publik. Perusahaan teknologi wajib menjamin bahwa platform mereka tidak beralih fungsi menjadi sarana eksploitasi seksual ataupun alat perusakan martabat manusia.
Pihak kementerian juga memberikan peringatan keras kepada platform X dan pengembang Grok AI. Jika dalam evaluasi ditemukan sikap tidak kooperatif atau kegagalan sistematis dalam mematuhi aturan di Indonesia, Kemkomdigi tidak segan menjatuhkan sanksi administratif hingga pemutusan akses layanan secara total.
Penegakan hukum ini sejalan dengan regulasi terbaru, di mana sejak 2 Januari 2026, Indonesia telah memberlakukan Undang-Undang Nomor 1 Tahun 2023 tentang KUHP. Dalam aturan baru tersebut, konten pornografi dan manipulasi citra pribadi diatur secara ketat dalam Pasal 172 dan Pasal 407.
Berdasarkan Pasal 407 KUHP, pelaku yang terbukti memproduksi atau menyebarkan konten asusila tersebut terancam pidana penjara paling singkat 6 bulan hingga maksimal 10 tahun. Selain hukuman badan, pelanggar juga dapat dikenakan denda materiel yang cukup besar sesuai dengan ketentuan yang berlaku.
Sebagai penutup, Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi deepfake untuk segera melapor melalui kanal resmi pemerintah atau aparat penegak hukum. Penggunaan teknologi kecerdasan buatan harus dilakukan secara bertanggung jawab dengan tetap menghormati hak dan privasi orang lain di ruang digital.D|Red.
Baca artikel menarik lainnya dari
mediadelegasi.id di GOOGE NEWS.
