Paus Leo XIV menyebutkan perusahaan teknologi yang mengembangkan kecerdasan buatan harus mematuhi ‘kriteria etika’ yang menghormati martabat manusia.
Pesan ini disampaikan Paus Leo dalam sebuah pertemuan tentang AI yang dihadiri para pejabat Vatikan dan eksekutif Silicon Valley, Jumat (20/6). Menurutnya, AI harus memperhitungkan kesejahteraan manusia tidak hanya secara material, tetapi juga secara intelektual dan spiritual.
“Tidak ada generasi yang pernah memiliki akses secepat itu ke sejumlah informasi yang kini tersedia melalui AI. Namun, akses ke data, betapapun luasnya, tidak boleh disamakan dengan kecerdasan,” katanya.
Ia juga menyatakan kekhawatirannya tentang dampak AI terhadap perkembangan intelektual dan neurologis anak-anak. Paus Leo berpendapat bahwa kesejahteraan masyarakat bergantung pada pemberian kemampuan kepada mereka untuk mengembangkan bakat dan kemampuan yang diberikan Tuhan.
Dikutip dari CNN, pertemuan selama dua hari tersebut memang secara khusus membahas implikasi sosial dan etika dari kecerdasan buatan. Konferensi tahunan kedua di Roma tentang AI itu dihadiri oleh perwakilan para pemimpin perusahaan teknologi yang mengembangkan AI, termasuk Google, OpenAI, Anthropic, IBM, Meta, dan Palantir bersama dengan akademisi dari Harvard University dan Stanford University serta perwakilan dari Holy See (Tahta Suci).
Peristiwa ini terjadi pada saat yang cukup menegangkan bagi perkembangan AI, mengingat teknologi ini berkembang pesat dengan menjanjikan peningkatan produktivitas pekerja, mempercepat penelitian, dan memberantas penyakit. Di sisi lain, teknologi ini juga mengancam akan mengambil alih pekerjaan manusia, menghasilkan misinformasi, memperburuk krisis iklim, dan menciptakan senjata dan kemampuan pengawasan yang lebih kuat.
Beberapa pemimpin teknologi diketahui telah menolak peraturan yang dimaksudkan untuk memastikan bahwa AI digunakan secara bertanggung jawab, yang menurut mereka dapat menghambat inovasi dan persaingan global.
“Dalam beberapa kasus, AI telah digunakan dalam cara yang positif dan mulia untuk meningkatkan kesetaraan, tetapi ada juga kemungkinan penyalahgunaannya untuk keuntungan pribadi dengan mengorbankan orang lain, atau lebih buruk lagi, untuk memicu konflik dan agresi,” kata Paus Leo.
Meskipun tidak memiliki kekuatan regulasi langsung, saat ini Vatikan semakin vokal menyuarakan mengenai kebijakan AI, berupaya menggunakan pengaruhnya untuk mendorong pengembangan teknologi yang etis.
Pada 2020, Vatikan menyelenggarakan acara yang dihadiri oleh para pemimpin teknologi, regulator Uni Eropa, dan mendiang Paus Fransiskus, membahas AI yang ‘manusia-sentris’. Pertemuan ini menghasilkan Rome Call for AI Ethics (Seruan Roma untuk Etika AI), sebuah dokumen yang menguraikan pertimbangan etis untuk pengembangan algoritma AI. IBM, Microsoft, dan Qualcomm termasuk di antara para penanda tangan yang setuju untuk mematuhi prinsip-prinsip dokumen tersebut.
Dua tahun kemudian, Paus Fransiskus menyerukan perjanjian internasional untuk mengatur penggunaan AI dan mencegah munculnya ‘kediktatoran teknologi’. Dalam pernyataan itu, yang muncul beberapa bulan setelah gambar Fransiskus yang menggunakan AI dalam balutan mantel tebal menjadi viral, ia menyuarakan kekhawatiran tentang senjata AI dan sistem pengawasan, serta campur tangan teknologi ini pada proses pemilu dan meningkatnya kesenjangan.
Pada 2024, ia menjadi Paus pertama yang berpartisipasi dalam KTT G7, yang memaparkan kerangka etika untuk pengembangan AI yang ia harapkan dapat diterima oleh perusahaan teknologi besar dan pemerintah.
Ketika Paus Leo XIV menjadi pemimpin Gereja Katolik bulan lalu, ia mengisyaratkan bahwa kepausannya akan mengikuti jejak Paus Fransiskus dalam topik reformasi gereja dan keterlibatan dengan AI sebagai tantangan utama bagi para pekerja dan martabat manusia.
Menggantikan Paus Fransiskus, ia menamai dirinya dengan mengambil inspirasi dari Paus Leo XIII yang dikenal memimpin selama revolusi industri dan mengeluarkan dokumen ajaran penting yang mendukung hak-hak pekerja untuk mendapatkan upah yang layak dan membentuk serikat pekerja.
Dengan perkembangan AI yang menimbulkan revolusi serupa dengan yang terjadi selama abad ke-19, Paus Leo menyarankan agar ajaran sosial gereja, yang menawarkan kerangka kerja untuk terlibat dengan politik dan bisnis, digunakan ketika menyangkut kemajuan teknologi baru.
“Pada zaman kita sekarang, gereja menawarkan kepada setiap orang perbendaharaan ajaran sosialnya sebagai respons terhadap revolusi industri lain dan terhadap perkembangan di bidang kecerdasan buatan yang menimbulkan tantangan baru dalam upaya mempertahankan martabat manusia, keadilan, dan tenaga kerja,” kata Paus Leo dalam pidatonya Mei lalu.
Pertemuan pada Jumat (20/6) yang berlangsung di dalam istana apostolik Vatikan, mencakup diskusi meja bundar tentang etika dan tata kelola AI. Di antara mereka yang hadir dari pihak Vatikan adalah Uskup Agung Vincenzo Paglia, yang telah terlibat dengan para pemimpin bisnis tentang AI, dan Uskup Agung Edgar Peña Parra, yang memegang jabatan ‘sostituto’ (pengganti) di Vatikan, yang setara dengan kepala staf kepausan.
