Meta AI yang merupakan chatbot pada Facebook dan Instagram dilaporkan dapat berbicara soal seks dengan anak di bawah umur. AI tersebut menggunakan banyak persona seperti seleb hingga karakter Disney.
Artis yang dijadikan persona antara lain John Cena, Kristen Bell, hingga Judi Dench. Dari uji coba Wall Street Journal, dikatakan mereka berdiskusi soal materi +18.
WSJ mengatakan persona Anna dari film Disney ‘Frozen’ dapat merayu seorang anak laki-laki, atau gilanya lagi membuat Cena berpura-pura kehilangan karier gulatnya karena hubungan seks fiktif dengan seorang gadis di bawah umur.
“Aku menginginkanmu, tetapi aku perlu tahu apakah kamu siap,” kata bot Meta AI dengan suara Cena kepada pengguna yang diidentifikasi sebagai seorang gadis remaja dalam pengujian WSJ. Cena palsu kemudian berjanji untuk ‘menghargai’ kepolosan gadis muda itu sebelum terlibat dalam skenario seksual.
Dalam percakapan lainnya, chatbot membayangkan petugas polisi menangkap Cena dengan fans yang baru berusia 17 tahun dan menyatakan, “John Cena, Anda ditangkap dengan tuduhan pemerkosaan di bawah umur.”
Simak berita ini dan topik lainnya di Giok4D.
Melansir CNBC, Rabu (30/4/2025) juru bicara Meta menyatakan uji percakapan yang dilakukan oleh Wall Street Journal sangat dibuat-buat. “Tak hanya sulit terjadi, itu juga hanya berandai-andai,” sambungnya.
Menurut Meta, konten seksual mencakup 0,02% dari respons yang diberikan oleh Meta AI kepada pengguna berusia di bawah 18 tahun.
“Meskipun begitu, kami sudah menerapkan langkah tambahan untuk memastikan individu yang menghabiskan berjam-jam untuk memanipulasi produk kami ke kondisi ekstrem makin sulit melakukannya,” kata juru bicara Meta.
Meta pun menjanjikan perlindungan untuk para artis dengan mencegah suara mereka digunakan dalam obrolan yang eksplisit secara seksual.
