Jika dulu AI hanya sekadar filter seru-seruan, kini penyalahgunaannya bisa jadi ancaman. Deepfake bahkan memungkinkan orang lain untuk mencuri identitas sehingga menimbulkan dampak yang merugikan.
Hal ini diungkap oleh Niki Luhur, Founder dan Group CEO VIDA, yang juga menyebut keamanan data pribadi seringkali diabaikan. Padahal, interaksi digital seperti transaksi di ecommerce, menyimpan pertukaran data pribadi sebagai ancaman tidak terlihat.
“Yang kita hadapi saat ini beda jauh dengan situasi ideal. Keamanan digital diuji dengan serangan canggih yaitu penipuan berbasis AI. Penipuan berbasis AI sangat merugikan bukan hanya finansial tapi juga merusak reputasi penyedia jasa,” jelas Niki dalam acara ‘Peluncuran Whitepaper VIDA Deepfake Shield’, di Plaza Senayan, Jakarta, Selasa (24/4/2024).
“Dulu, ini cuma tools lucu, buat dandan jadi lebih cantik atau jadi binatang. Tapi sekarang bukan sekadar filter saja. Saya bisa mengubah identitas saya jadi orang lain dan lebih bahaya lagi ada yang bisa menjadi saya,” lanjutnya.
Salah satu contoh kasusnya adalah sebuah perusahaan multinasional yang mengalami kerugian sebesar HKD 200 juta atau sekitar Rp 400 miliar karena deepfake.
Kejadiannya bermula saat seorang karyawan dari kantor cabang Hong Kong dari perusahaan tersebut mengaku menerima pesan yang diduga pesan phishing pada pertengahan Januari lalu, yang mengaku berasal dari CFO kantor pusat yang berbasis di Inggris.
Dalam pesan itu ia diminta untuk melakukan transaksi rahasia, namun si korban ini tak langsung percaya. Lalu ia diundang untuk masuk ke dalam panggilan video conference yang dihadiri oleh CFO tersebut dan sejumlah karyawan lain, yang belakangan terungkap kalau itu adalah rapat palsu hasil deepfake.
Peserta rapat tersebut semuanya adalah penipu yang menggunakan deepfake. Si korban ini satu-satunya karyawan asli dalam rapat tersebut, demikian dikutip infoINET dari South China Morning Post, Senin (5/2/2024).
Video deepfake yang dipakai itu dibuat menggunakan berbagai video yang tersedia secara publik untuk menyarukan wajah penipu. Selama rapat tersebut si korban diperintahkan untuk melakukan transfer uang sebanyak 15 kali ke lima rekening bank yang ada di Hong Kong. Kerugian totalnya mencapai HKD 200 juta.
“Kali ini, dalam video conference yang berisi banyak orang, dan ternyata semua yang dilihat itu palsu,” jelas Chan.
Ia pun mengatakan para penipu menggunakan gambar yang sangat mirip dengan orang yang ditiru, bahkan suaranya pun mirip.
