Dari kompetisi ini, AI juga belajar berperilaku kooperatif dan bekerja sama. Dalam game kedua, masing-masing agen AI bertindak sebagai serigala. Peneliti memunculkan satu agen lagi yang bertugas sebagai mangsa.
Agen AI belajar bahwa, jika bekerja sama, tingkat keberhasilan menangkap mangsa lebih besar ketimbang sendirian. Selain itu, kerja sama dapat melindungi mereka dari pemangsa lain. “Kedua sikap tersebut sama seperti pikiran manusia,” kata Leibo, seperti dikutip dari laman berita Quartz, akhir pekan lalu.
Kecerdasan yang kian kompleks ini memang terdengar bagai sebuah ancaman bagi umat manusia, khususnya jika digunakan dalam perang. Namun, kata para peneliti, sebetulnya hal tersebut tidak perlu ditakutkan. Sebab, AI memiliki kecerdasan yang cukup terbatas dan hanya terfokus pada hal-hal remeh. Sebaliknya, menurut Leibo, ancaman terbesar saat ini adalah manusia di balik AI.
Ketakutan akan penggunaan AI untuk perang dilontarkan langsung oleh Stephen Hawking dan CEO Tesla Motor, Elon Musk, pada Juli 2015. Mereka memimpin lebih dari 1.000 ilmuwan dan peneliti robot terkemuka meneken surat peringatan terbuka ihwal bahaya perlombaan senjata militer berbasis AI alias robot perang. Mereka khawatir mesin perang yang digerakkan oleh kecerdasan buatan, tanpa kontrol penuh manusia, akan mudah dibeli di pasar gelap serta bisa jatuh ke tangan teroris dan penguasa diktator.
Mereka meminta Perserikatan Bangsa-Bangsa melarang pengembangan senjata yang digerakkan oleh komputer itu untuk tujuan perang. Robot perang digambarkan sebagai revolusi ketiga dalam peperangan, setelah mesiu dan senjata nuklir.
Elon Musk; Stephen Hawking; pendiri Apple, Steve Wozniak; dan pendiri DeepMind, Demis Hassabis, termasuk dalam barisan yang menyerukan pelarangan pengembangan senjata AI. Mereka menyatakan, jika ada kekuatan militer besar mendorong pengembangan senjata tersebut, perlombaan senjata global hampir tak terelakkan.
QUARTZ | WEIRD | LIVE SCIENCE | AMRI M