Paus Leo menyinggung tentang penggunaan AI dalam perang. Pemerintah Amerika Serikat diketahui menggunakan kecerdasan buatan dalam perang melawan Iran.
Dalam dokumen panjang yang dikenal dengan Ensiklik, Paus Leo menyesalkan atas melemahnya organisasi multilateral, dan memperingatkan bahwa keuntungan industri senjata merupakan pendorong utama di balik konflik.
"Enam puluh tahun terakhir ditandai oleh konflik-konflik dengan kebrutalan yang mencengangkan, yang sering kali berdampak pada populasi sipil dalam skala besar," demikian pernyataan Leo dalam teks berbahasa Inggris, dalam acara di Vatikan pada Senin (25/5), dikutip dari Reuters.
"Umat manusia sedang tergelincir ke dalam budaya kekuasaan yang penuh kekerasan, di mana perdamaian tidak lagi tampak sebagai tanggung jawab yang harus dipikul, melainkan sebagai jeda rapuh di antara konflik," katanya.
Dalam dokumen yang memuat hampir 43 ribu kata itu, Leo juga menolak teori perang yang adil, doktrin yang telah digunakan Gereja setidaknya sejak abad kelima untuk mengevaluasi konflik global.
Dikutip dari Reuters, doktrin itu, yang secara umum menyatakan bahwa perang hanya boleh dilakukan untuk membela diri terhadap agresi, juga telah digunakan oleh para pejabat pemerintahan Trump, termasuk Wakil Presiden JD Vance, seorang Katolik, untuk membela perang melawan Iran.
"Teori 'perang yang adil' yang terlalu sering digunakan untuk membenarkan segala jenis perang, kini sudah usang," tulis Leo. "Penggunaan kekuatan, kekerasan, dan senjata mencerminkan kemiskinan relasional yang selalu memiliki konsekuensi buruk bagi penduduk sipil."
Paus pertama Amerika Serikat itu juga menyatakan kekhawatiran bahwa para pemimpin dapat memulai perang untuk mengalihkan perhatian warga dari masalah domestik.
"Kita tidak bisa mengesampingkan kemungkinan bahwa beberapa pemimpin mungkin menganggap konflik bersenjata sebagai cara efektif untuk mengalihkan perhatian dari masalah domestik dan sebagai alat sinis untuk mengatasi kesulitan," ujarnya.
Paus mengatakan bahwa setiap penggunaan AI dalam peperangan harus tunduk pada batasan etika yang paling ketat. Ia juga menyebut tidak diperbolehkan untuk mempercayakan sistem AI dengan keputusan yang mematikan.
Leo, paus ke-14 yang memilih nama itu, mengutip ajaran kepausan selama berabad-abad sebelumnya tentang isu-isu keadilan sosial sebelum membahas etika sistem AI.
Ia secara khusus merujuk pada pendahulunya, Leo XIII, yang menerbitkan ensiklik terkenal pada 1891 yang menyerukan upah dan kondisi kerja yang lebih baik bagi para buruh selama Revolusi Industri.
Leo XIV mengecam apa yang disebutnya sebagai bentuk-bentuk perbudakan baru yang dialami oleh orang-orang yang mengelola sistem AI dan pekerja pabrik yang memproduksi perangkat teknologi, seperti komputer dan ponsel pintar, tempat AI digunakan.
"Di beberapa wilayah di dunia, anak-anak dan remaja bekerja dalam kondisi berbahaya, menghancurkan bahan-bahan dari mana unsur-unsur tanah jarang diekstrak," tulis Paus. "Tubuh orang-orang ini penuh bekas luka, cedera, dan kelelahan agar alur komputasi dapat terus berjalan tanpa gangguan," katanya. "Realitas ini sangat menantang hati nurani moral zaman kita."
Pada acara di Vatikan itu, salah satu pendiri Anthropic, Chris Olah, berterima kasih kepada Paus Leo karena telah membahas masalah-masalah yang muncul akibat teknologi baru yang disruptif. Ia mengatakan bahwa perusahaan seperti miliknya menghadapi tekanan komersial yang kuat dan membutuhkan pengawasan dari luar.
"Setiap laboratorium AI terdepan, termasuk Anthropic, beroperasi dalam serangkaian insentif dan batasan yang terkadang dapat bertentangan dengan melakukan hal yang benar," kata Olah.
Anthropic sebelumnya menolak AI buatannya Claude dipakai Pemerintah AS untuk pengawasan penduduk secara massal atau senjata otonom, di tengah perang Amerika Serikat dan Israel dengan Iran.
Paus Mendesak Dunia untuk Atasi Risiko AIPaus Leo mengatakan bahwa masyarakat harus menghadapi pertanyaan-pertanyaan penting tentang bagaimana AI berkembang dan arah umum kepemimpinan global.
Dengan mengutip kisah Alkitab tentang Menara Babel, di mana suku manusia didorong oleh kesombongan untuk membangun menara yang cukup tinggi untuk mencapai Surga, sehingga membuat Tuhan murka, Paus mengatakan bahwa kisah itu menunjukkan risiko dari setiap usaha yang bercita-cita mencapai surga tanpa berkat Tuhan.
"Saya meminta semua orang untuk menghentikan pembangunan Menara Babel yang lain dan bergabung dalam membangun kebaikan bersama," kata Paus.
Leo mendesak dunia untuk tidak menyerah dalam mengatasi potensi risiko dari sistem AI.
"Suatu godaan halus mungkin muncul, yaitu pemikiran bahwa masalahnya terlalu besar dan kita terlalu kecil, dan oleh karena itu, pilihan kita tidak dapat membuat perbedaan," tulisnya.
"Tentu saja, tidak semua orang memiliki kekuatan yang sama untuk membuat perubahan," kata Leo. "Namun, tidak seorang pun tanpa tanggung jawab. Kita semua memiliki bidang tindakan masing-masing."
Paus Leo pun menyerukan adanya kerangka hukum yang kuat, pengawasan independen, pengguna yang terinformasi, dan sistem politik yang tidak mengabaikan tanggung jawabnya.
