Surat Terbuka Peneliti dan Eksekutif: Risiko AI Setara Pandemi dan Perang Nuklir

TEMPO.CO, Jakarta - CEO-CEO dari perusahaan teknologi kecerdasan buatan (AI) terkemuka di dunia saat ini, bersama ratusan ahli dan ilmuwan AI lainnya membuat surat terbuka mengenai risiko AI terhadap eksistensi manusia. Surat yang dirilis pada Selasa, 30 Mei 2023, itu berisi satu kalimat saja, namun dinilai sebagai pernyataan paling bulat yang pernah mereka buat tentang AI selama ini.

"Memitigasi risiko kepunahan gara-gara AI harus menjadi prioritas global yang setara dengan risiko berskala global lainnya seperti pandemi dan perang nuklir," bunyi isi surat yang dirilis Center for AI Safety, organisasi nirlaba berbasis di California. 

Para CEO yang meneken surat itu termasuk Sam Altman dari OpenAI, Demis Hassabis dari DeepMind, dan Dario Amodei dari Anthropic--tiga CEO dari laboratorium AI yang saat ini dipandang paling maju. Ketiganya bergabung di antara lebih dari 350 peneliti dan eksekutif yang membubuhkan tanda tangannya.

Ikut bergabung di balik surat terbuka itu adalah Geoffrey Hinton yang dikenal sebagai 'godfather AI'. Hinton baru pada bulan lalu memutuskan melepas jabatan dan mundur dari Google demi mengungkap penyesalan karena telah merintis AI lewat riset jaringan saraf yang dapat mengajari dirinya sendiri--riset yang membuatnya diganjar 'Nobel Komputasi' pada 2018 lalu.

Surat itu adalah upaya berikutnya oleh mereka yang ada di industri teknologi untuk mendesak peringatan tentang AI. Pada Maret lalu, sebuah surat terbuka yang terpisah menyerukan pembekuan pengembangan AI selama enam bulan sambil menunggu ada regulasi yang dibuat untuk mengaturnya. 

Surat yang ini ditandatangani oleh figur yang ada di industri teknologi terkemuksa termasuk Elon Musk. Tapi, surat yang didukung 1.000 orang lebih ini dianggap kurang mendapat dukungan dari orang-orang paling kuat di pucuk perusahaan-perusahaan AI. Selain seruannya dinilai banyak kalangan tidak mungkin. 

Surat terbuka terkini berbeda karena banyak penekennya menduduki posisi powerful dalam perusahaanriset, dan tim kebijakan di lab-lab AI dan perusahan teknologi besar. Kevin Scott, CTO Microsoft, dan James Manyika, wakil presiden di Google, ada di dalamnya. Microsoft adalah investor terbesar di Open AI, dan Google adalah induk perusahaan DeepMind. 

Figur yang ada di sisi teknis AI seperti Ketua Tim Ilmuwan di OpenAI, Ilya Sutskever, dan pemenang Turing Award Yoshua Bengio.

Dan Hendrycks, Direktur Center for AI Safety , menulis di Twitter bahwa baik risiko jangka pendek dan jangka panjang dari AI telah terangkum dalam surat terbuka yang terbaru ini. "Ada banyak risiko penting dan mendesak dari AI, bukan hanya risiko kepunahan; sebagai misal, bias yang sistemik, misinformasi, penggunaan yang berbahaya, serangan siber, senjatanisasi.

Absen dalam daftar penandatangan surat terbuka itu adalah para pekerja dari Meta. Divisi AI perusahaan itu sedang mengembangkan model bahasa yang besar dan powerful, seperti halnya juga sebuah model yang bisa mengalahkan manusia ahli di game strategi Diplomacy. 

CEO Google Sundar Pichai dan CEO Micosoft Satya Nadella juga absen. 

TIME, WASHINGTON POST

Pilihan Editor: World Cleanup Day Indonesia 2023 Targetkan Himpun 13 Juta Relawan