Prinsip subsidiaritas menjadi penting di sini.

Keputusan teknologi tidak boleh hanya ditentukan oleh korporasi besar atau negara kuat. Komunitas terdampak harus memiliki suara.

Senjata Otonom dan Hilangnya Tanggung Jawab Moral

Paus Leo XIV juga memperingatkan bahaya senjata otonom yang dapat membuat keputusan hidup dan mati semakin jauh dari pertimbangan manusia.

Reuters mencatat bahwa Paus menyerukan regulasi AI yang lebih ketat, termasuk pada sistem senjata otomatis.

Masalah utama bukan hanya akurasi, tetapi tanggung jawab: jika terjadi kesalahan fatal, siapa yang bertanggung jawab—programmer, komandan, produsen, atau negara?

Davison (2018) telah lama menyoroti bahwa keterbatasan kontrol manusia atas senjata otonom dapat menyulitkan pertanggungjawaban dalam hukum humaniter internasional.

Peradaban Kasih sebagai Alternatif

Konsep “Peradaban Kasih” dalam ensiklik ini bukan slogan sentimental, melainkan tawaran etis-politik untuk melawan budaya kekuasaan.

AI dapat diarahkan untuk pendidikan, kesehatan, keadilan sosial, dan perlindungan lingkungan.

Namun semua itu hanya bermakna jika manusia tetap menjadi tujuan, bukan sekadar komponen sistem.

Menjadi Arsitek yang Bijaksana

Magnifica Humanitas menegaskan bahwa krisis AI bukan terutama karena mesin menjadi terlalu pintar, melainkan karena manusia menjadi terlalu lalai.

Bahaya terbesar bukan ketika AI menggantikan manusia secara teknis, tetapi ketika manusia menyerahkan nurani dan tanggung jawab moralnya kepada sistem otomatis.

Ensiklik ini mengajak semua pihak—akademisi, pembuat kebijakan, insinyur, jurnalis, hingga masyarakat sipil—untuk menjadi “arsitek yang bijaksana” dalam membangun teknologi.

Jika AI dibangun dalam logika kuasa, ia akan memperbesar ketimpangan. Namun jika dibangun dalam etika kasih, ia dapat menjadi alat pembebasan.

Pada akhirnya, pertanyaan paling penting di era AI bukan lagi “apa yang bisa dilakukan mesin?”, melainkan “manusia seperti apa yang sedang kita bentuk melalui mesin itu?”. (***)

Ditulis oleh Ruben Cornelius Siagian. Ia adalah seorang peneliti, akademisi dari Medan, Sumatera Utara. Saat ini, Ruben menjabat sebagai Chief Director PT. Siagian Global Research Center dan pendiri sekaligus penggagas Riset Center Cendekiawan dan Peneliti Muda Indonesia yang didirikan pada 2023.

Tulisan merupakan opini pribadi penulis dan tak mencerminkan pandangan redaksi