Ancaman Menakutkan dari Pengembangan Kecerdasan Buatan
Editor
Nurdin Saleh TNR
Sabtu, 4 Maret 2017 11:08 WIB
TEMPO.CO, Jakarta - Kecerdasan buatan kini kian mirip kecerdasan manusia. Dari studi terbaru diketahui bahwa artificial intelligence (AI)—komputer yang diajari banyak hal agar bisa melakukan pekerjaan manusia—ternyata bisa saling mengalahkan dan bekerja sama. Tak percaya?
Adalah DeepMind—salah satu unit di Google yang berfokus mengembangkan AI—yang mengungkap hal tersebut. Dalam sebuah uji coba, para peneliti membuat AI bersaing satu sama lain dalam permainan komputer.
Kompetisi itu digelar dalam 40 juta putaran. Tiap AI harus menembak jatuh apel digital dengan sinar laser sebanyak mungkin. Keduanya juga bisa melakukan sedikit kecurangan dengan cara menembakkan laser ke lawan.
Mungkin orang akan bertanya, apa pentingnya kompetisi ini? Hal ini berkaitan dengan ketakutan umum selama ini bahwa robot akan mengambil alih kehidupan kalau memiliki perasaan. Atau digunakan sebagai senjata perang. Riset ini bisa mengetahui hubungan kecerdasan dan agresi.
“Robot ternyata memiliki keinginan untuk mengalahkan,” demikian tulisan para ilmuwan Google dalam artikel yang diterbitkan di situs DeepMind. Artikel berjudul “Multi-agent Reinforcement Learning in Sequential Social Dilemmas” ini disiapkan untuk terbit dalam jurnal Proceedings of the 16th International Conference on Autonomous Agents and Multiagent Systems edisi Mei 2017.
Saat jumlah apel masih berlimpah, dua agen AI masih belum menyerang satu sama lain. Namun, ketika apel semakin sedikit, keduanya kian agresif. Dari uji coba ini Joel Leibo dan empat peneliti lainnya menemukan bahwa, semakin besar kapasitas kognitif AI, semakin besar pula agresi yang mereka lakukan. Perilaku tersebut lebih kompleks daripada sebelumnya dan membutuhkan tingkat kecerdasan lebih tinggi.
Selanjutnya: Bisa bekerjasama, lalu..
<!--more-->
Dari kompetisi ini, AI juga belajar berperilaku kooperatif dan bekerja sama. Dalam game kedua, masing-masing agen AI bertindak sebagai serigala. Peneliti memunculkan satu agen lagi yang bertugas sebagai mangsa.
Agen AI belajar bahwa, jika bekerja sama, tingkat keberhasilan menangkap mangsa lebih besar ketimbang sendirian. Selain itu, kerja sama dapat melindungi mereka dari pemangsa lain. “Kedua sikap tersebut sama seperti pikiran manusia,” kata Leibo, seperti dikutip dari laman berita Quartz, akhir pekan lalu.
Kecerdasan yang kian kompleks ini memang terdengar bagai sebuah ancaman bagi umat manusia, khususnya jika digunakan dalam perang. Namun, kata para peneliti, sebetulnya hal tersebut tidak perlu ditakutkan. Sebab, AI memiliki kecerdasan yang cukup terbatas dan hanya terfokus pada hal-hal remeh. Sebaliknya, menurut Leibo, ancaman terbesar saat ini adalah manusia di balik AI.
Ketakutan akan penggunaan AI untuk perang dilontarkan langsung oleh Stephen Hawking dan CEO Tesla Motor, Elon Musk, pada Juli 2015. Mereka memimpin lebih dari 1.000 ilmuwan dan peneliti robot terkemuka meneken surat peringatan terbuka ihwal bahaya perlombaan senjata militer berbasis AI alias robot perang. Mereka khawatir mesin perang yang digerakkan oleh kecerdasan buatan, tanpa kontrol penuh manusia, akan mudah dibeli di pasar gelap serta bisa jatuh ke tangan teroris dan penguasa diktator.
Mereka meminta Perserikatan Bangsa-Bangsa melarang pengembangan senjata yang digerakkan oleh komputer itu untuk tujuan perang. Robot perang digambarkan sebagai revolusi ketiga dalam peperangan, setelah mesiu dan senjata nuklir.
Elon Musk; Stephen Hawking; pendiri Apple, Steve Wozniak; dan pendiri DeepMind, Demis Hassabis, termasuk dalam barisan yang menyerukan pelarangan pengembangan senjata AI. Mereka menyatakan, jika ada kekuatan militer besar mendorong pengembangan senjata tersebut, perlombaan senjata global hampir tak terelakkan.
QUARTZ | WEIRD | LIVE SCIENCE | AMRI M