Leo, dalam ensiklik pertamanya, menegaskan kepemilikan data AI tidak boleh diserahkan sepenuhnya kepada pihak swasta.

Paus Leo XIV menciptakan “pelucutan senjata” kecerdasan buatan (AI), dan peringatan bahwa “bentuk-bentuk terjalin baru” terkait dengan kebangkitannya.

Pemimpin Gereja Katolik itu memperingatkan pada hari Senin terhadap “perlombaan untuk mendapatkan algoritma yang lebih kuat dan kumpulan data yang lebih besar,” yang didorong oleh “keinginan untuk mengamankan dominasi geopolitik atau komersial”.

Kekhawatirannya terhadap AI diungkapkan dalam ensiklik pertama yang berjudul “Magnifica Humanitas” (Kemanusiaan yang Luar Biasa), secara langsung di Vatikan. Ensiklik adalah salah satu bentuk pengajaran tertinggi dari seorang Paus kepada 1,4 miliar anggota gereja.

Leo menegaskan bahwa kepemilikan data AI tidak boleh dibiarkan semata-mata di tangan swasta, mencerminkan para pembuat kebijakan untuk melindungi hak-hak pekerja dan menjaga anak-anak aman dari teknologi tersebut, dan mendesaknya persaingan antar perusahaan AI.

“Yang dibutuhkan adalah keterlibatan politik yang lebih aktif yang mampu memperlambat segalanya ketika segala sesuatunya mengalami percepatan,” kata Leo.

Pemimpin Katolik tersebut melanjutkan dengan transformasi “kerangka ⁠hukum yang kuat, pengawasan independen, pengguna informasi dan sistem politik yang tidak melepaskan tanggung jawabnya”.

“AI kini menuntut untuk dilucuti, dibebaskan dari logika yang menjadikannya instrumen dominasi, eksklusi, dan kematian,” ujarnya. “Seperti halnya energi nuklir, hal ini harus bermanfaat bagi semua orang dan demi kebaikan bersama.”

Teks yang sangat dinanti-nantikan pada hari Senin, yang mencakup hampir 43.000 kata, telah dikerjakan hampir sejak terpilihnya Leo sebagai paus lebih dari setahun yang lalu.

‘Dorong ke arah yang lebih baik’

Paus Leo memaparkan ensiklik tersebut bersama para pakar AI, termasuk Christopher Olah, salah satu pendiri perusahaan raksasa AS, Anthropic.

Keterlibatan antropis dalam konfrontasi hukum dengan militer Amerika Serikat setelah menentang penggunaan teknologi untuk peperangan otonom yang mematikan dan pengawasan massal.

Pada presentasinya, Olah mengatakan perusahaan AI beroperasi “dalam upaya insentif dan kendala yang terkadang bertentangan dengan tindakan yang benar”.

Dia menyambut baik masukan dari pihak luar seperti Gereja Katolik untuk “mendorong acara ke arah yang lebih baik”, dan mengatakan bahwa “pertanyaan yang diajukan oleh AI lebih besar daripada komunitas penelitian AI”.

Olah menyoroti tiga bidang yang menurutnya memerlukan perhatian mendesak: risiko kehilangan pekerjaan secara luas, kebutuhan untuk memastikan manfaat AI meluas ke seluruh dunia, dan pertanyaan yang belum terselesaikan tentang bagaimana memahami sistem perilaku yang semakin kompleks dan terkadang tidak jelas.

Teori ‘perang adil’ sudah ketinggalan jaman

Dalam ensiklik tersebut, Leo juga menyuarakan peringatan atas persenjataan yang diarahkan oleh AI, dengan mengatakan bahwa “tidak diperbolehkan untuk mempercayakan keputusan yang mematikan” kepada teknologi.

Leo telah berulang kali berselisih dengan Gedung Putih mengenai perang AS-Israel melawan Iran dan penggunaan agama untuk menyelesaikan konflik.

Teori “perang yang adil”, yang baru-baru ini dianut oleh pemerintahan Presiden AS Donald Trump, sudah “ketinggalan zaman”, tulis Leo, seraya menambahkan bahwa “tidak ada algoritma yang dapat membuat perang dapat diterima secara moral”.