TEMPO.CO, Jakarta - ChatGPT mendominasi topik kecerdasan buatan (AI) beberapa waktu terakhir dengan menyediakan respons atau jawaban yang luar biasa sebagai sebuah chatbot. Namun demikian, semua hal pasti ada kelemahannya, termasuk teknologi ChatGPT besutan OpenAI yang didukung antara lain oleh Microsoft dan Elon Musk ini.

OpenAI sebenarnya telah menjabarkan sejumlah batas kemampuan ChatGPT dalam blog mereka. Melansir dari openai.com, ChatGPT terkadang menulis jawaban yang terdengar masuk akal, padahal taak akurat atau malah keliru sama sekali. Hal ini dikarenakan ChatGPT memakai metode Reinforcement Learning from Human Feedback (RFHL) yang bisa saja berujung pada kesesatan.

ChatGPT juga dapat mengalami kebimbangan terhadap prompt (perintah atau pertanyaan) yang dimasukkan beberapa kali dengan adanya parafrase. Misal pada sebuah klausa, ChatGPT masih bisa memberikan respons. Namun dengan mengubah susunan klausa tersebut, ChatGPT menjadi tidak mampu meresponsnya.

Selain itu, model pemrograman ChatGPT sering terlalu bertele-tele dan menggunakan frasa berlebihan, seperti halnya menyatakan kembali bahwa ia adalah program yang dilatih oleh OpenAI. Masalah ini muncul dari masalah optimasi yang berlebihan serta bias bahwa jawaban panjang lebih disukai karena tampak komprehensif.

Ketika pengguna memasukkan query yang keliru, sebuah model chatbot idealnya menanyakan klarifikasi atas suatu keambiguan. Tetapi, ChatGPT justru memberikan respons dengan menebak apa maksud pengguna sebenarnya. ChatGPT juga terkadang masih menanggapi instruksi berbahaya atau menunjukkan perilaku bias walaupun sudah ada upaya membuat model yang menolak permintaan tidak pantas.

Kelemahan ChatGPT

Kebanyakan orang melihat kesan pertama yang “mengagumkan” dari ChatGPT. Namun, hal itu tidak membuat ChatGPT mengambil alih semua pekerjaan manusia, khususnya di bidang penulisan. Sebab, seiring pemakaiannya secara terus-menerus, pengguna akan melihat kelemahan ChatGPT.

Bagaimanapun, ChatGPT adalah sebuah robot yang dilatih menggunakan model bahasa tertentu sehingga mungkin sekali terjadi kekeliruan. Berikut ada beberapa kelemahan ChatGPT yang perlu Anda ketahui.

1. Tidak Memahami Kompleksitas Bahasa

Menurut thepanthertech, manusia menghabiskan bertahun-tahun mempelajari bahasa, memahami intinya, kemudian merespons sebagai balasan. Tetapi, mereka bahkan belum sepenuhnya yakin sudah memenuhi kapasitas penuh dari bahasa itu. ChatGPT pun demikian, tidak mampu sepenuhnya memahami kompleksitas bahasa. Hal ini berlaku ketika ChatGPT menerima query maupun memberi respons.

Semakin banyak pertanyaan atau perintah yang dimasukkan, semakin keras pula ChatGPT melatih diri untuk kueri tersebut dan memberikan jawaban yang lebih baik. Namun, kata-kata yang disajikan justru kerap sulit dimengerti.

2. Ketergantungan pada Percakapan

Saat seseorang bertanya kepada ChatGPT tentang hal tertentu dan tahu akan mendapat jawaban mutlak sebagai balasannya, mereka sebenarnya bisa “menyesatkan” ChatGPT dengan memberi pernyataan yang berlawanan. Kemudian, ketika orang itu menanyakan hal yang sama, ChatGPT akan menjawab sesuai apa yang mereka nyatakan sebelumnya.

3. Bukan "Jawaban" Profesional

ChatGPT mungkin memberi jawaban yang sangat mendasar sehingga mudah dipahami oleh awam. Namun di mata seorang ahli terkait pertanyaan yang diajukan, mereka akan melihat banyak “hal” yang hilang. Jawaban ChatGPT tidak bisa dibandingkan dengan kemampuan manusia profesional.

Misal, ketika seorang awam meminta ChatGPT untuk menulis kode dari sebuah program, jawaban yang diberikan tentu akan sangat menakjubkan di mata mereka. Akan tetapi, di mata seorang programmer, kode-kode yang ChatGPT tulis bisa jadi bukan apa-apa.

4. Menulis Berdasarkan Tren

Rasanya terlalu berlebihan ketika para peneliti berkata bahwa ChatGPT akan menggantikan pekerjaan menulis di masa depan atau merevolusi hal-hal semacamnya. Nyatanya, ChatGPT cenderung memberi respons berupa sesuatu yang banyak orang sukai atau berdasarkan tren pada jangka waktu tertentu.

Sama seperti media sosial, banyak hal hanya didasarkan pada popularitas terlepas dari benar dan salahnya. ChatGPT mungkin menjadi alat yang tepat untuk memulai suatu ide dari kumpulan teks yang diberikan. Namun, perlu diingat bahwa respons tersebut adalah salinan dari teks-teks lain yang ada di internet.

5. Menyalin Teks dari Sumber Lain

Masih berhubungan dengan kelemahan sebelumnya, ChatGPT seringkali menampilkan teks serupa berulang kali. Hal ini mungkin cukup aneh karena ChatGPT tidak akan mencantumkan sumber dari jawabannya kecuali jika diminta untuk beberapa kasus.

Begitu pun ketika seseorang meminta ChatGPT untuk menulis sesuatu yang bersifat teknis maupun nonteknis seperti puisi, esai, atau hal terkait teknologi, chatbot ini akan mencomot bagian dari jurnal-jurnal penelitian yang pernah dipublikasi melalui internet.

6. Memiliki Evaluasi yang Buruk

Bagian awal dari respons ChatGPT akan tampak wajar, tetapi baris-baris terakhir dari prosa yang dibuat cenderung berkualitas buruk. ChatGPT tidak tahu cara mengakhiri prosa bahkan seperti amatir sekalipun. AI tersebut hanya memberi artikel dengan struktur apa adanya.

Semakin sering seseorang menggunakan ChatGPT, mereka bakal mulai memperhatikan semua kekurangannya. ChatGPT bisa mengakui kesalahan yang ia lakukan dan itu menarik simpati dari para pengguna. Pada akhirnya, ChatGPT mungkin dapat dimanfaatkan untuk hal-hal dasar tertentu, tetapi tidak semua hal.

Pilihan Editor: Cuaca Jabodetabek, di Balik Hujan tak Henti Sepanjang Hari Ini

NIA HEPPY | SYAHDI MUHARRAM