Indonesia Mengancam Larang Aplikasi Grok dan X Akibat Tren “Hilangkan Pakaian”

DIAGRAMKOTA.COM – Indonesia sedang mempertimbangkan tindakan keras terhadap dua aplikasi teknologi terkemuka, yaitu Grok dan X, yang dikaitkan dengan penyebaran konten tidak senonoh berbasis deepfake. Kementerian Komunikasi dan Informatika telah mengingatkan pengelola layanan digital untuk mematuhi undang-undang yang berlaku, termasuk larangan pornografi di negara ini.

Penyebaran Konten Tidak Senonoh di Media Sosial

Sejumlah pengguna media sosial di Indonesia mengeluh tentang munculnya tren “hilangkan pakaian” yang memanfaatkan teknologi AI untuk menciptakan gambar seksual tanpa izin. Tren ini menimbulkan kekhawatiran besar karena banyak orang biasa, termasuk selebritas dan anggota grup musik, menjadi korban. Gambar-gambar tersebut sering kali disebarkan secara ilegal di platform seperti X, yang sebelumnya dikenal sebagai Twitter.

“Semua operator sistem elektronik harus memastikan bahwa teknologi yang mereka sediakan tidak menjadi tempat pelanggaran privasi, eksploitasi seksual, atau merusak martabat seseorang,” ujar Alexander Sabar, pejabat senior Kementerian Komunikasi dan Informatika.

Kebijakan Hukum yang Ketat

Menurut Alexander, pemerintah telah menemukan bahwa Grok hingga saat ini belum memiliki aturan spesifik untuk mencegah teknologinya menciptakan dan menyebarkan konten menggunakan gambar pribadi. Hal ini menimbulkan risiko besar terhadap hak privasi dan hak gambar warga negara.

Produksi dan penyebaran materi pornografi dapat dihukum dengan hukuman penjara hingga 10 tahun, sesuai dengan kode pidana yang baru. Siapa pun yang terbukti bersalah juga bisa dikenai denda. Alexander juga meminta para korban untuk melaporkan kejahatan tersebut kepada pihak berwajib.

Respons dari Pengelola Platform

X, yang dikembangkan oleh perusahaan Elon Musk, xAI, telah berjanji untuk mengambil tindakan terhadap konten ilegal di situsnya. Ini termasuk menghapus konten tersebut, menghentikan akun permanen, dan bekerja sama dengan pemerintah. Musk menulis dalam responsnya kepada pengguna X bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.

Platform X memiliki audiens yang besar di Indonesia, dengan total pengguna sebesar 22,92 juta, menurut Statista. Namun, tren “hilangkan pakaian” yang berasal dari Grok telah menyebabkan protes luas dari masyarakat, termasuk dari kelompok musik JKT48 yang mengancam akan mengambil tindakan hukum jika anggotanya disuruh “menghilangkan pakaian” oleh Grok.

Tantangan Regulasi Teknologi di Indonesia

Penggunaan AI dalam konten media sosial kini menjadi fokus utama bagi pemerintah dan regulator. Dengan semakin berkembangnya teknologi, tantangan regulasi semakin kompleks. Selain itu, ancaman cyberattack juga meningkat, dengan lebih dari 133 juta upaya serangan tercatat pada semester pertama 2025.

Kementerian Keuangan juga telah mengadopsi sistem AI internal untuk mengidentifikasi pajak impor yang kurang dibayar, yang berhasil menambah pendapatan negara sebesar Rp 1 miliar. Di sisi lain, pemerintah Indonesia tengah mempertimbangkan regulasi AI yang lebih ketat, dengan belajar dari pendekatan Australia yang berfokus pada aturan berbasis risiko.

Masa Depan Teknologi dan Regulasi di Indonesia

Dalam beberapa bulan terakhir, Indonesia telah mengambil langkah-langkah strategis untuk memperkuat regulasi teknologi dan melindungi warga negaranya dari potensi bahaya AI. Dari penggunaan 5G hingga pengembangan pusat AI regional di Australia, negara ini terus berupaya membangun infrastruktur digital yang kuat dan aman.

Selain itu, kerja sama antar negara juga semakin penting dalam menghadapi tantangan global. Misalnya, kolaborasi antara Groq dan Equinix telah membawa kecepatan komputasi yang lebih cepat ke Indonesia, memberikan solusi yang lebih baik dalam pengelolaan data dan kepatuhan regulasi.

Dengan semua ini, Indonesia terus memperkuat posisinya sebagai salah satu negara yang aktif dalam inovasi teknologi, sekaligus menjaga keseimbangan antara kemajuan dan perlindungan hak asasi manusia.***