Wintechmobiles.com – Kecanggihan teknologi AI kini kembali menuai sorotan negatif. ChatGPT, chatbot populer besutan OpenAI, kembali digugat karena menyebarkan informasi palsu yang mencemarkan nama baik seseorang. Gugatan kali ini dilayangkan oleh kelompok advokasi asal Austria, None of Your Business (Noyb), yang dikenal kritis terhadap isu privasi dan perlindungan data.
Kasus ini bermula dari seorang pria asal Norwegia yang menanyakan informasi tentang dirinya sendiri kepada ChatGPT. Alih-alih memberikan respons netral atau mengaku tidak tahu, ChatGPT malah menuding pria tersebut sebagai pelaku pembunuhan dua anak dan percobaan pembunuhan terhadap anak ketiga. Tuduhan berat itu jelas tidak berdasar dan tidak memiliki kaitan apa pun dengan kenyataan.
Yang membuat situasi semakin pelik, ChatGPT justru menyertakan informasi pribadi pria tersebut secara akurat. Mulai dari jumlah dan jenis kelamin anak, hingga kota tempat tinggal—semuanya benar. Namun dikombinasikan dengan tuduhan palsu, informasi itu menjadi bom waktu yang merusak reputasi.
Noyb menyebut kejadian ini sebagai bentuk “halusinasi AI” yang tak bisa ditoleransi. Mereka menilai OpenAI telah melanggar General Data Protection Regulation (GDPR), regulasi perlindungan data pribadi Uni Eropa. GDPR mewajibkan semua data pribadi yang diproses oleh sistem digital untuk selalu akurat, dapat diperbarui, dan tidak menyesatkan.
Joakim Söderberg, pengacara perlindungan data dari Noyb, menekankan bahwa sekadar memberikan disclaimer tidak cukup. “Kamu tidak bisa menyebarkan informasi palsu lalu sekadar menambahkan pernyataan bahwa mungkin saja itu salah,” tegasnya. Ia menuntut OpenAI bertanggung jawab atas kesalahan fatal yang berdampak pada martabat dan privasi individu.
Bukan kali ini saja OpenAI berurusan dengan Noyb. Pada April 2024, organisasi ini pernah menggugat perusahaan itu karena ChatGPT salah menampilkan tanggal lahir seorang tokoh publik. Meski terlihat sepele, kasus itu tetap menunjukkan kelemahan fundamental dalam akurasi data yang dihasilkan oleh model AI.
Namun, tuduhan terhadap pria Norwegia ini menjadi kasus terparah. Tuduhan palsu atas kejahatan serius seperti pembunuhan bisa menghancurkan reputasi seseorang secara permanen. Ironisnya, OpenAI mengklaim tidak dapat mengubah informasi dalam model mereka secara langsung. Solusi mereka hanyalah memblokir respons atau menambahkan peringatan bahwa “ChatGPT dapat membuat kesalahan.”
Sebelumnya, ChatGPT juga sempat memicu kontroversi dengan menyebarkan informasi palsu terhadap seorang reporter pengadilan dan seorang profesor hukum, keduanya dituding melakukan pelecehan tanpa bukti. Bahkan ada kasus lain di mana individu dituduh terlibat dalam penipuan dan penggelapan.
Berbagai insiden ini menunjukkan bahwa kekeliruan ChatGPT bukan hanya soal kesalahan teknis biasa, melainkan bisa berakibat serius pada kehidupan nyata. Apalagi ketika AI dianggap sebagai sumber informasi terpercaya oleh banyak pengguna.
Jika gugatan Noyb kali ini diterima, OpenAI bisa menghadapi sanksi serius dari otoritas Eropa. GDPR memberikan wewenang kepada otoritas perlindungan data untuk menjatuhkan denda hingga miliaran euro bagi pelanggaran berat terhadap privasi dan akurasi data pribadi.
