Wintechmobiles.com – Grok AI buatan perusahaan xAI milik Elon Musk menjadi sorotan publik di platform X. Perbincangan ini mencuat setelah Grok AI disalahgunakan untuk membuat konten tak senonoh.
Sejumlah pengguna memanfaatkan Grok AI xAI untuk merekayasa foto orang lain tanpa izin. Foto tersebut kemudian diubah menjadi konten bermuatan seksual.
Penyalahgunaan AI di X ini dinilai semakin serius. Grok bahkan diminta menyunting foto menjadi materi yang melanggar norma.
Lebih parah, beberapa pengguna diketahui menggunakan foto anak di bawah umur. Prompt yang digunakan dinilai tidak pantas dan berbahaya.
Fenomena ini ramai dibahas sejak akhir Desember 2025. Diskusi muncul di berbagai negara, termasuk Indonesia.
Target penyalahgunaan Grok AI bersifat acak. Tidak hanya figur publik, pengguna biasa juga menjadi korban.
Menurut laporan Futurism, Grok AI konten ilegal juga mencakup foto rekayasa kekerasan. Wanita asli digambarkan seolah dilecehkan atau disakiti.
Beberapa prompt ditulis dengan detail eksplisit. Pengguna meminta tampilan luka, memar, dan lebam di bagian tubuh tertentu.
Futurism mencatat sebagian besar permintaan tersebut menyasar model online dan pekerja seks. Kondisi ini memicu kekhawatiran luas.
Grok AI disalahgunakan sebagai alat pembuat pornografi berbasis foto orang asli. Konten dibuat tanpa persetujuan pemilik foto.
Integrasi Grok dengan platform X membuat penyebaran konten ini lebih terbuka. Akses publik mempercepat peredaran materi eksplisit.
Elon Musk mengecam keras praktik tersebut. Ia menegaskan akan ada konsekuensi bagi pelaku.
Musk menyatakan bahwa pembuatan konten ilegal menggunakan Grok akan diperlakukan sama. Sanksi juga berlaku bagi pengunggah konten ilegal.
Akun resmi keamanan X, @Safety, turut memberikan peringatan. Tim X menyatakan akan menindak konten ilegal secara tegas.
X menyebut akan menghapus konten yang melanggar hukum. Akun pelanggar juga akan ditangguhkan secara permanen.
Kerja sama dengan penegak hukum akan dilakukan bila diperlukan. Pernyataan ini menegaskan sikap resmi platform.
Tim @Safety menekankan bahwa prompt Grok untuk konten ilegal tetap dianggap pelanggaran. Konsekuensi hukum tetap diberlakukan.
Isu Grok AI disalahgunakan ini mendapat perhatian pemerintah dunia. Sejumlah negara mulai mengambil langkah resmi.
Pemerintah India melalui Kementerian Teknologi dan Informasi ikut memantau tren tersebut. Otoritas meminta X membatasi Grok.
India menuntut pencegahan konten pornografi dan pedofilia. Konten vulgar dan eksplisit juga masuk dalam daftar larangan.
X diminta merespons perintah tersebut dalam waktu 72 jam. Jika tidak, perlindungan hukum safe harbor terancam dicabut.
Safe harbor merupakan perlindungan hukum bagi platform digital. Perlindungan ini berlaku jika kewajiban hukum dipenuhi.
Selain India, Perancis juga mengambil langkah serupa. Otoritas hukum setempat mulai melakukan penyelidikan.
Menurut laporan Politico, jaksa Paris menyelidiki kasus deepfake seksual di X. Penyelidikan menargetkan konten yang melanggar hukum.
Kantor urusan digital Perancis menyebut tiga menteri telah melapor. Laporan disampaikan kepada kejaksaan dan lembaga pengawas online.
Langkah tersebut bertujuan memastikan konten ilegal segera dihapus. Pemerintah menilai kasus ini berdampak serius.
Malaysia juga menyatakan sikap tegas. Otoritas setempat menyoroti penyalahgunaan AI di platform X.
Malaysian Communication and Multimedia Commission menyebut manipulasi digital sebagai ancaman. Konten menyasar perempuan dan anak.
MCMC menyatakan akan menyelidiki pengguna X yang melanggar aturan. Penegakan hukum akan mengacu pada CMA.
Kasus Grok AI konten tak senonoh menegaskan risiko teknologi tanpa pengawasan ketat. Penyalahgunaan AI kini menjadi isu global serius.
