Ratusan ribu percakapan pengguna dengan chatbot AI Grok tiba-tiba terekspos di mesin pencari seperti Google Search. Insiden ini membuat pakar mempertanyakan privasi percakapan pengguna dengan chatbot AI.
Insiden ini pertama kali dilaporkan oleh Forbes yang menemukan 370.000 percakapan pengguna dengan Grok yang muncul di Google Search. Grok merupakan chatbot buatan xAI, startup AI besutan Elon Musk.
Ketika pengguna menekan tombol ‘Share’ saat berinteraksi dengan Grok, chatbot itu akan membuat URL unik yang dapat dibagikan pengguna ke orang lain lewat email, media sosial, atau SMS.
Tapi, URL tersebut juga dimasukkan ke indeks oleh mesin pencari ternama seperti Google Search, Microsoft Bing, dan DuckDuckGo sehingga siapa saja bisa mencari isi percakapan itu di internet.
Jenis percakapan yang terekspos beragam, mulai dari yang sederhana seperti meminta menyusun rencana diet untuk menurunkan berat badan, membicarakan kondisi kesehatan, sampai meminta dibuatkan password yang aman.
Tapi tidak sedikit juga yang menguji batas kemampuan Grok dengan mengajukan pertanyaan yang terlarang seperti instruksi lengkap untuk membuat obat terlarang seperti fentanil dan cara membuat bom.
Dengan kebocoran seperti ini, informasi rinci tentang akun pengguna biasanya dianonimkan atau disembunyikan. Tapi prompt yang mereka ajukan bisa saja berisi informasi pribadi yang sensitif dan tidak ingin diketahui orang lain.
Sejumlah pakar mengatakan kebocoran ini meningkatkan kekhawatiran atas privasi pengguna AI. Mereka mengatakan percakapan dengan chatbot AI yang bocor telah mengungkap informasi pribadi seperti nama lengkap dan lokasi, hingga informasi sensitif tentang kesehatan mental dan hubungan pribadi.
“Chatbot AI adalah bencana privasi yang sedang berlangsung,” kata Luc Rocher, Associate Professor di Oxford Internet Institute, seperti dikutip dari BBC, Jumat (22/8/2025).
“Setelah bocor di internet, percakapan ini akan tetap ada di sana selamanya,” imbuhnya.
Ini bukan pertama kalinya percakapan pengguna dengan chatbot AI tersebar luas tanpa sepengetahuan pengguna. Belum lama ini OpenAI membatalkan eksperimen setelah percakapan ChatGPT tidak sengaja muncul di hasil penelusuran mesin pencari.
