TEMPO.CO, Jakarta - Paus Fransiskus menyerukan perjanjian internasional yang mengikat secara hukum untuk mengatur kecerdasan buatan, dengan mengatakan bahwa algoritma tidak boleh menggantikan nilai-nilai kemanusiaan dan memperingatkan “kediktatoran teknologi” yang mengancam keberadaan manusia.

Paus menyampaikan seruannya pada hari Kamis dalam pesannya untuk Hari Perdamaian Sedunia Gereja Katolik Roma, yang dirayakan pada 1 Januari. Judul pesan tersebut, yang secara tradisional dikirimkan kepada para pemimpin dunia dan kepala lembaga seperti Perserikatan Bangsa-Bangsa , adalah "Kecerdasan Buatan dan Perdamaian".

Hal ini terjadi ketika pemerintah di seluruh dunia berupaya menyeimbangkan keunggulan teknologi, yang dapat melakukan percakapan seperti manusia, menjawab pertanyaan, dan menulis kode komputer, dengan kebutuhan untuk menerapkan pagar pembatas.

“Skala global dari kecerdasan buatan memperjelas bahwa, di samping tanggung jawab negara-negara berdaulat untuk mengatur penggunaannya secara internal, organisasi-organisasi internasional dapat memainkan peran yang menentukan dalam mencapai perjanjian multilateral dan mengoordinasikan penerapan dan penegakannya,” tulis Paus Fransiskus dalam pesannya, dikutip dari Reuters, Jumat, 15 Desember 2023.

“Saya mendesak komunitas global untuk bekerja sama guna mengadopsi perjanjian internasional yang mengikat yang mengatur pengembangan dan penggunaan kecerdasan buatan dalam berbagai bentuknya,” kata Paus.

Pekan lalu, Uni Eropa mencapai kesepakatan sementara mengenai peraturan penting yang mengatur penggunaan AI, termasuk penggunaan AI oleh pemerintah dalam pengawasan biometrik dan cara mengatur sistem AI seperti ChatGPT.

APLIKASI AI BARU

Seruan Paus juga datang ketika perusahaan seperti OpenAI, di mana Microsoft (MSFT.O) adalah investornya, terus menemukan kegunaan baru untuk teknologi mereka, sehingga memicu pujian dan kekhawatiran. Pemilik Google Alphabet (GOOGL.O) minggu lalu meluncurkan model AI baru, Gemini, untuk menyaingi OpenAI.

Paus Fransiskus menyerukan pengawasan etis terhadap "tujuan dan kepentingan pemilik dan pengembang (AI)" dan memperingatkan bahwa beberapa penerapan AI "dapat menimbulkan risiko bagi kelangsungan hidup kita dan membahayakan rumah kita bersama," mengacu pada bumi.

“Dalam keinginan obsesif untuk mengendalikan segalanya, kita berisiko kehilangan kendali atas diri kita sendiri; dalam upaya mencapai kebebasan absolut, kita berisiko jatuh ke dalam spiral ‘kediktatoran teknologi’,” tulisnya.

Paus Fransiskus, yang sering mengkritik industri persenjataan, memperingatkan terhadap penggunaan AI dalam sistem persenjataan, dengan mengatakan hal itu dapat menyebabkan bencana global.

“Penelitian mengenai teknologi baru di bidang Sistem Senjata Otonom yang Mematikan, termasuk persenjataan kecerdasan buatan, merupakan penyebab keprihatinan etika yang serius. Sistem senjata otonom tidak akan pernah menjadi subjek yang bertanggung jawab secara moral,” katanya.

“Kapasitas manusia yang unik dalam penilaian moral dan pengambilan keputusan etis” tidak dapat diserahkan kepada mesin, katanya, seraya menambahkan bahwa “sangat penting untuk memastikan pengawasan manusia yang memadai, bermakna dan konsisten terhadap sistem senjata”.

Pada konferensi pers yang menyampaikan pesan tersebut, Kardinal Michael Czerny, kepala kantor pembangunan manusia Vatikan, mengatakan paus berusia 86 tahun itu “bukan orang yang luddite,” sebuah istilah yang mengacu pada seseorang yang menentang teknologi baru.

Dia mengatakan Paus menghargai kemajuan teknologi dan ilmu pengetahuan yang bermanfaat bagi umat manusia, namun Paus Fransiskus sangat prihatin dengan AI karena hal itu "mungkin merupakan pertaruhan terbesar di masa depan kita".

Pilihan Editor: Kasus Covid-19 di Kota Semarang Naik 200 Persen Lebih dalam 3 Hari

Selalu update info terkini. Simak breaking news dan berita pilihan dari Tempo.co di kanal Telegram “Tempo.co Update”. Klik https://t.me/tempodotcoupdate untuk bergabung. Anda perlu meng-install aplikasi Telegram terlebih dahulu.