ARUSBAWAH.CO -   Terbitnya ensiklik Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence karya Paus Leo XIV menandai babak baru dalam percakapan global tentang kecerdasan buatan.

Dokumen ini bukan sekadar nasihat religius bagi umat Katolik, melainkan sebuah intervensi moral terhadap arah peradaban digital.

Ensiklik tersebut resmi dirilis Vatikan pada Mei 2026 dan menempatkan AI sebagai salah satu ujian terbesar bagi martabat manusia, kebenaran, kerja, kebebasan, dan perdamaian dunia.

Sudut pandang utama tulisan ini adalah bahwa Magnifica Humanitas perlu dibaca sebagai kritik terhadap peradaban teknokratis—sebuah peradaban yang terlalu percaya bahwa setiap masalah manusia dapat diselesaikan melalui efisiensi, komputasi, otomatisasi, dan kontrol data.

Dalam kerangka ini, AI tidak ditolak sebagai teknologi, tetapi diperingatkan agar tidak berubah menjadi sistem kekuasaan baru yang menggeser manusia dari pusat kehidupan sosial.

AI dan Paradigma Teknokratis

Paus Leo XIV tampaknya melanjutkan garis kritik yang sebelumnya kuat dalam pemikiran Paus Fransiskus, terutama kritik terhadap “paradigma teknokratis” dalam Laudato Si’.

Namun, Magnifica Humanitas memperluas kritik itu ke dunia algoritma, model bahasa besar, otomasi kerja, senjata otonom, dan ekonomi data.

AI dipandang bukan hanya sebagai alat teknis, tetapi sebagai struktur sosial yang dapat mengubah relasi kuasa.

Secara teoritis, pandangan ini sejalan dengan kritik Jacques Ellul tentang masyarakat teknologis, yakni ketika teknik tidak lagi menjadi sarana, melainkan berubah menjadi logika dominan yang mengatur manusia (Ellul, 2021).

Ia juga dekat dengan gagasan Martin Heidegger tentang teknologi modern sebagai cara manusia “membingkai” dunia hanya sebagai sumber daya (Heidegger, 1954).

Dalam konteks AI, manusia berisiko direduksi bukan sebagai pribadi bermartabat, melainkan sebagai data, pola perilaku, target iklan, tenaga kerja murah, atau objek prediksi.

Di sinilah prinsip Doktrin Sosial Gereja menjadi relevan: martabat manusia, kebaikan bersama, solidaritas, subsidiaritas, dan tujuan universal barang-barang menjadi kriteria etis untuk menilai AI.

Artinya, pertanyaan utama bukan lagi “seberapa canggih AI?”, melainkan “siapa yang diuntungkan, siapa yang dikorbankan, dan apakah manusia tetap menjadi subjek moral?”

Martabat Manusia Melawan Reduksi Algoritmik

Gagasan paling kuat dari ensiklik ini adalah bahwa AI tidak memiliki hati, tubuh, pengalaman batin, nurani, dan tanggung jawab moral.

AI dapat meniru bahasa manusia, menghasilkan keputusan statistik, dan mengolah data dalam skala besar, tetapi ia tidak mengalami penderitaan, kasih, rasa bersalah, atau pertobatan.

Karena itu, menyerahkan keputusan hidup manusia sepenuhnya kepada mesin dipandang sebagai bentuk kemunduran moral.

AI tidak boleh dijadikan hakim terakhir atas nilai manusia.

Dalam praktiknya, sistem algoritmik sudah digunakan dalam rekrutmen kerja, kredit, asuransi, kepolisian prediktif, pendidikan, hingga penilaian risiko sosial.

Jika data historis mengandung bias, maka AI dapat memperkuat ketidakadilan lama dalam bentuk baru yang tampak objektif.

Stanford AI Index 2025 mencatat bahwa AI telah menjadi teknologi transformatif, tetapi manfaatnya tidak otomatis tersebar secara adil tanpa tata kelola yang tepat (Wang & Xie, 2026).

Dengan kata lain, kemajuan teknis tidak identik dengan kemajuan moral.

Kebenaran sebagai Barang Publik

Magnifica Humanitas juga menempatkan kebenaran sebagai bagian dari kebaikan bersama.

Ini menjadi relevan karena AI generatif mempercepat produksi teks, gambar, audio, dan video palsu dalam skala massal.

Deepfake, propaganda otomatis, dan manipulasi opini publik membuat masyarakat semakin sulit membedakan fakta dari fabrikasi.

Kasus deepfake dalam politik, penipuan berbasis suara sintetis, dan banjir konten palsu di media sosial menunjukkan bahwa krisis AI bukan hanya krisis teknologi, tetapi krisis epistemik.

Ketika publik tidak lagi percaya pada fakta, demokrasi kehilangan dasar rasionalnya.

Reuters melaporkan bahwa PBB telah menyerukan langkah global untuk mendeteksi dan melawan deepfake berbasis AI karena risikonya terhadap pemilu, penipuan, dan kepercayaan publik.

Dalam perspektif ensiklik, kebenaran tidak boleh diprivatisasi oleh platform digital atau dikendalikan oleh algoritma keterlibatan (Caplan & Boyd, 2016).

Kebenaran adalah syarat bagi demokrasi, keadilan, dan kehidupan bersama.

Kerja, Otomasi, dan Martabat Pekerja

Bagian tentang kerja dalam Magnifica Humanitas menyoroti bahwa AI sering dipromosikan sebagai alat efisiensi, tetapi jarang dibahas dari sisi martabat pekerja.

Otomasi memang dapat meningkatkan produktivitas, tetapi juga dapat menciptakan pengangguran struktural, memperlemah posisi tawar buruh, dan menghapus pekerjaan tingkat awal.

Penelitian Economic Insights menunjukkan bahwa AI generatif lebih mungkin mengubah pekerjaan daripada menghancurkan seluruh pekerjaan, tetapi dampaknya tidak merata (Drozd & Tavares, 2024).

Pekerjaan administratif dan klerikal termasuk yang paling terekspos. Karena itu, pertanyaan etisnya bukan apakah perusahaan boleh menggunakan AI, melainkan bagaimana transisi itu dilakukan—apakah pekerja dilatih ulang, apakah keuntungan dibagi adil, dan apakah AI memperkuat manusia atau sekadar menggantikannya demi laba.

Di balik kecerdasan AI, terdapat jutaan pekerja data labeler dan moderator konten yang bekerja dalam kondisi tidak selalu terlihat publik.

Brookings mencatat adanya gerakan pekerja di Kenya dan Global South yang menuntut upah layak, kondisi kerja aman, dan perlindungan kesehatan mental.

Kebebasan dan Perbudakan Digital Baru

Ensiklik ini juga menyoroti kemungkinan munculnya “perbudakan baru” dalam ekonomi digital.

Dalam ekonomi platform, kebebasan sering tampak sebagai pilihan: memilih aplikasi, pekerjaan fleksibel, atau konten.

Namun algoritma sebenarnya menentukan visibilitas, pendapatan, rating, bahkan reputasi seseorang.

Kebebasan menjadi semu ketika manusia tidak memahami bagaimana sistem mengambil keputusan atas dirinya.

Prinsip subsidiaritas menjadi penting di sini.

Keputusan teknologi tidak boleh hanya ditentukan oleh korporasi besar atau negara kuat. Komunitas terdampak harus memiliki suara.

Senjata Otonom dan Hilangnya Tanggung Jawab Moral

Paus Leo XIV juga memperingatkan bahaya senjata otonom yang dapat membuat keputusan hidup dan mati semakin jauh dari pertimbangan manusia.

Reuters mencatat bahwa Paus menyerukan regulasi AI yang lebih ketat, termasuk pada sistem senjata otomatis.

Masalah utama bukan hanya akurasi, tetapi tanggung jawab: jika terjadi kesalahan fatal, siapa yang bertanggung jawab—programmer, komandan, produsen, atau negara?

Davison (2018) telah lama menyoroti bahwa keterbatasan kontrol manusia atas senjata otonom dapat menyulitkan pertanggungjawaban dalam hukum humaniter internasional.

Peradaban Kasih sebagai Alternatif

Konsep “Peradaban Kasih” dalam ensiklik ini bukan slogan sentimental, melainkan tawaran etis-politik untuk melawan budaya kekuasaan.

AI dapat diarahkan untuk pendidikan, kesehatan, keadilan sosial, dan perlindungan lingkungan.

Namun semua itu hanya bermakna jika manusia tetap menjadi tujuan, bukan sekadar komponen sistem.

Menjadi Arsitek yang Bijaksana

Magnifica Humanitas menegaskan bahwa krisis AI bukan terutama karena mesin menjadi terlalu pintar, melainkan karena manusia menjadi terlalu lalai.

Bahaya terbesar bukan ketika AI menggantikan manusia secara teknis, tetapi ketika manusia menyerahkan nurani dan tanggung jawab moralnya kepada sistem otomatis.

Ensiklik ini mengajak semua pihak—akademisi, pembuat kebijakan, insinyur, jurnalis, hingga masyarakat sipil—untuk menjadi “arsitek yang bijaksana” dalam membangun teknologi.

Jika AI dibangun dalam logika kuasa, ia akan memperbesar ketimpangan. Namun jika dibangun dalam etika kasih, ia dapat menjadi alat pembebasan.

Pada akhirnya, pertanyaan paling penting di era AI bukan lagi “apa yang bisa dilakukan mesin?”, melainkan “manusia seperti apa yang sedang kita bentuk melalui mesin itu?”. (***)

Ditulis oleh Ruben Cornelius Siagian. Ia adalah seorang peneliti, akademisi dari Medan, Sumatera Utara. Saat ini, Ruben menjabat sebagai Chief Director PT. Siagian Global Research Center dan pendiri sekaligus penggagas Riset Center Cendekiawan dan Peneliti Muda Indonesia yang didirikan pada 2023.

Tulisan merupakan opini pribadi penulis dan tak mencerminkan pandangan redaksi