TEMPO.CO, Jakarta - Peneliti dari Massachusetts Institute of Technology (MIT) menemukan kemampuan baru di sistem kecerdasan buatan (AI) yang telah belajar menipu manusia. Penemuan ini didapatkan lewat studi yang diterbitkan di Pattern.

Dikutip dari Gizmochina, Senin, 13 Mei 2024, kemampuan sistem AI ini dapat melakukan hal-hal seperti membodohi pemain game online atau melewati captcha (pemeriksaan "saya bukan robot"). Ketua tim penelitian Peter Park memperingatkan bahwa contoh-contoh yang tampaknya sepele ini bisa menimbulkan konsekuensi serius di dunia nyata.

Studi ini menyoroti sistem AI Meta model Cicero, yang merupakan alat kecerdasan buatan besutan Meta. Meskipun diprogram untuk bersikap jujur dan membantu, Cicero diklaim sebagai “ahli penipuan,” menurut Park.

Selama bermain game, Cicero, bermain sebagai Prancis, diam-diam akan bekerja sama dengan Jerman yang dikuasai manusia untuk mengkhianati Inggris (pemain manusia lainnya). Cicero awalnya berjanji untuk melindungi Inggris sekaligus memberi tahu Jerman untuk melakukan invasi.

Contoh lain yang diteliti Park, melibatkan GPT-4. Dia mengklaim kalau kecerdasan buatan itu secara keliru mengaku sebagai penyandang tunanetra dan mempekerjakan manusia untuk melewati captcha atas namanya.

Park menekankan tantangan melatih AI yang jujur. Tidak seperti perangkat lunak tradisional, sistem AI pembelajaran mendalam harus berkembang melalui proses yang mirip dengan pembiakan selektif. Perilaku sistem mungkin dapat diprediksi selama pelatihan, namun kemudian menjadi tidak terkendali.

Studi ini mendesak untuk mengklasifikasikan sistem AI yang menipu sebagai sistem yang berisiko tinggi dan memerlukan lebih banyak waktu untuk bersiap menghadapi penipuan AI di masa depan. Menurut Park, dengan semakin banyaknya studi dan penelitian seputar AI, akan membawa dampak dan manfaat soal pengetahuan teknologi di masa kini.

Pilihan Editor: Badai Geomagnetik Picu Gangguan Sinyal di Indonesia dan Dunia, Begini Kata Peneliti BRIN