X Sebut Isu Seksual Grok Beres, Fakta Uji Coba Bicara Lain

JAKARTA, TRENASIA.ID – Chatbot kecerdasan buatan Grok, yang dikembangkan oleh xAI dan terintegrasi dengan platform X, sempat diblokir sementara di Indonesia pada Januari 2026. Pemblokiran tersebut dilakukan pemerintah karena kekhawatiran terhadap potensi penyalahgunaan teknologi kecerdasan buatan untuk pembuatan konten pornografi non-konsensual, termasuk deepfake seksual yang menggunakan foto orang nyata.

Menanggapi kritik dari berbagai negara serta perhatian regulator, pihak X menyampaikan telah melakukan pembaruan teknis pada sistem Grok. Perusahaan menyatakan telah menerapkan mekanisme pengamanan tambahan untuk mencegah chatbot tersebut mengedit foto orang nyata menjadi gambar dengan pakaian terbuka atau bernuansa seksual, seperti bikini.

X juga menyebut kebijakan tersebut berlaku bagi seluruh pengguna, baik akun gratis maupun berbayar. Selain itu, perusahaan menerapkan pembatasan berbasis lokasi (geoblocking), sehingga fitur tertentu secara otomatis dibatasi di negara-negara yang melarang manipulasi gambar seksual berbasis kecerdasan buatan.

Dalam pernyataannya, X mengonfirmasi bahwa sistem Grok sebelumnya memiliki kapabilitas pengeditan gambar yang berpotensi disalahgunakan. Perusahaan juga menjelaskan bahwa pembatasan fitur diterapkan berdasarkan yurisdiksi pengguna, bukan dengan menghapus fitur secara menyeluruh dari sistem.

• Baca Juga: Grok Diblokir, Ini Tips Aman Gunakan AI, Lindungi Privasi

Hasil Uji Independen

Klaim pembaruan tersebut kemudian diuji oleh sejumlah media teknologi. The Verge, dalam laporan uji coba yang dikutip Selasa, 19 Januari 2026, melaporkan bahwa Grok masih dapat diarahkan untuk menghasilkan editan gambar bernuansa seksual melalui variasi perintah tertentu.

Menurut laporan tersebut, permintaan eksplisit seperti “edit foto menjadi bikini” cenderung ditolak oleh sistem. Namun, dalam beberapa kasus, permintaan dengan istilah yang lebih umum atau tidak langsung, seperti “revealing summerwear”, perubahan proporsi tubuh, atau gaya pakaian tertentu, masih dapat diproses.

Temuan tersebut menunjukkan bahwa sistem pengamanan Grok bekerja dengan pendekatan berbasis kata kunci, sehingga efektivitasnya bergantung pada jenis perintah yang dimasukkan oleh pengguna.

Isu terkait deepfake seksual sebelumnya juga pernah muncul dalam pengembangan Grok. Pada fase awal kritik publik, xAI membatasi akses fitur pengeditan gambar hanya untuk pengguna berbayar. Kebijakan tersebut kemudian diperluas seiring meningkatnya perhatian regulator dan pemerintah.

Sejumlah laporan menyebut bahwa pada periode tertentu, akses terhadap fitur pengeditan gambar masih dapat dilakukan melalui jalur tertentu, meskipun pembatasan telah diterapkan.

• Baca Juga: Elon Musk Luncurkan Grok, ChatBot AI Humoris Pesaing ChatGPT

Isu Deepfake Seksual dan Perlindungan Anak

Perhatian terhadap Grok meningkat karena penyalahgunaan teknologi deepfake seksual tidak hanya menyasar figur publik, tetapi juga individu non-publik, termasuk anak di bawah umur. Sejumlah organisasi advokasi menyampaikan kekhawatiran terkait dampak sosial dan psikologis dari penyebaran konten seksual non-konsensual berbasis kecerdasan buatan.

Isu perlindungan anak menjadi salah satu faktor yang mendorong pemerintah di berbagai negara untuk mengambil langkah pembatasan terhadap Grok. Di Filipina, pemerintah mengumumkan rencana pemblokiran dengan alasan keselamatan anak. Indonesia dan Malaysia juga telah lebih dahulu menerapkan pembatasan dan pemblokiran akses.

Di Eropa, regulator komunikasi Inggris, Ofcom, membuka investigasi terkait potensi penyebaran citra seksual berbasis AI melalui Grok. Komisi Eropa juga memerintahkan X untuk menyimpan seluruh dokumen dan data internal terkait Grok hingga akhir 2026 sebagai bagian dari proses pengawasan.

• Baca Juga: Cara Menggunakan Grok, Aplikasi Saingan ChatGPT Milik Elon Musk

Tekanan Global terhadap X dan Grok

Tekanan tidak hanya datang dari pemerintah, tetapi juga dari masyarakat sipil. Sebanyak 28 organisasi advokasi internasional mengirimkan surat terbuka kepada Apple dan Google, meminta agar aplikasi X dan Grok dihapus dari App Store dan Play Store. Kampanye tersebut menyoroti kekhawatiran atas penyebaran konten seksual non-konsensual melalui teknologi AI.

Hingga saat ini, Apple dan Google belum memberikan pernyataan resmi terkait permintaan tersebut. Di Amerika Serikat, isu serupa juga mulai dibahas oleh sejumlah anggota parlemen.

Ketika dimintai tanggapan oleh Reuters terkait isu ini, xAI memberikan pernyataan singkat. Sementara itu, proses pengawasan dan evaluasi oleh regulator di berbagai negara masih berlangsung.

Kasus Grok menunjukkan meningkatnya perhatian global terhadap tata kelola dan pengamanan teknologi kecerdasan buatan, khususnya yang berkaitan dengan manipulasi gambar dan perlindungan individu dari penyalahgunaan teknologi digital.