TEMPO.CO, Jakarta - OpenAI telah mendapat gugatan pencemaran nama baik pertama terkait informasi palsu yang dihasilkan oleh ChatGPT. Seorang penyiar radio di Georgia, Mark Walters, menggugat perusahaan tersebut setelah ChatGPT menyatakan bahwa Walters dituduh menipu dan menggelapkan dana dari organisasi nirlaba.
Sistem itu menghasilkan informasi sebagai tanggapan atas permintaan dari pihak ketiga, seorang jurnalis bernama Fred Riehl. Kasus Walters diajukan pada tanggal 5 Juni di Pengadilan Tinggi Gwinnett County di Georgia dan dia meminta ganti rugi moneter yang tidak ditentukan dari OpenAI.
Kasus ini menarik mengingat banyaknya keluhan tentang informasi palsu yang dihasilkan oleh ChatGPT dan chatbot lainnya. Sistem ini tidak memiliki cara yang dapat diandalkan untuk membedakan fakta dari fiksi, dan ketika dimintai informasi - terutama jika diminta untuk mengkonfirmasi sesuatu yang menurut si penanya benar - sistem ini sering mengarang tanggal, fakta, dan angka.
Biasanya, pemalsuan ini tidak lebih dari menyesatkan pengguna atau membuang waktu mereka. Tetapi kasus mulai muncul terkait kesalahan seperti itu yang menyebabkan kerugian.
Ini termasuk seorang profesor yang mengancam tidak meluluskan kelasnya setelah ChatGPT mengklaim murid-muridnya menggunakan AI untuk menulis esai mereka, dan seorang pengacara menghadapi kemungkinan sanksi setelah menggunakan ChatGPT untuk meneliti kasus hukum palsu.
OpenAI menyertakan penafian kecil di beranda ChatGPT yang memperingatkan bahwa sistem “terkadang dapat menghasilkan informasi yang salah”, tetapi perusahaan juga menyajikan ChatGPT sebagai sumber data yang andal, menjelaskan sistem dalam salinan iklan sebagai cara untuk “mendapatkan jawaban” dan “belajar sesuatu yang baru."
CEO OpenAI sendiri Sam Altman telah mengatakan dalam banyak kesempatan bahwa dia lebih suka mempelajari informasi baru dari ChatGPT daripada dari buku.
Namun, tidak jelas apakah ada prioritas hukum untuk meminta pertanggungjawaban perusahaan atas sistem AI yang menghasilkan informasi palsu atau memfitnah, atau apakah kasus khusus ini memiliki manfaat yang substansial.
Secara tradisional di AS, Bagian 230 melindungi perusahaan internet dari tanggung jawab hukum atas informasi yang dihasilkan oleh pihak ketiga dan dihosting di platform mereka. Tidak diketahui apakah perlindungan ini berlaku untuk sistem AI, yang tidak hanya menautkan ke sumber data tetapi menghasilkan informasi baru.
Gugatan pencemaran nama baik yang diajukan oleh Walters di Georgia dapat menguji kerangka ini. Kasus tersebut menyatakan bahwa seorang jurnalis, Fred Riehl, meminta ChatGPT untuk meringkas kasus pengadilan federal yang sebenarnya dengan menautkan ke PDF online.
ChatGPT menanggapi dengan membuat ringkasan palsu dari kasus yang dirinci dan meyakinkan tetapi salah dalam beberapa hal. Ringkasan ChatGPT berisi beberapa informasi yang benar secara faktual, tetapi juga tuduhan palsu terhadap Walters.
Disebutkan Walters diyakini telah menyalahgunakan dana dari organisasi nirlaba Second Amendment Foundation "lebih dari US$5.000.000." Sementara Walters tidak pernah dituduh melakukan hal ini.
Riehl tidak pernah mempublikasikan informasi palsu yang dihasilkan oleh ChatGPT tetapi memeriksa detailnya dengan pihak lain. Tidak jelas bagaimana Walters kemudian mengetahui tentang informasi yang salah ini.
Khususnya, meskipun memenuhi permintaan Riehl untuk meringkas PDF, ChatGPT sebenarnya tidak dapat mengakses data eksternal tersebut tanpa menggunakan plugin tambahan. Ketidakmampuan sistem untuk memperingatkan Riehl tentang fakta ini adalah contoh kemampuannya untuk menyesatkan pengguna.
Eugene Volokh, seorang profesor hukum yang telah menulis tentang tanggung jawab hukum sistem AI, mencatat dalam sebuah posting blog bahwa meskipun pemikiran "klaim pencemaran nama baik [terhadap perusahaan AI] pada prinsipnya layak secara hukum," gugatan khusus ini "sulit untuk dipertahankan".
Volokh mencatat bahwa Walters tidak memberi tahu OpenAI tentang pernyataan palsu ini, memberi mereka kesempatan untuk menghapusnya, dan bahwa tidak ada kerusakan aktual akibat keluaran ChatGPT. “Bagaimanapun, akan menarik untuk melihat apa yang akhirnya terjadi di sini,” kata Volokh.
THE VERGE
Selalu update info terkini. Simak breaking news dan berita pilihan dari Tempo.co di kanal Telegram “Tempo.co Update”. Klik https://t.me/tempodotcoupdate untuk bergabung. Anda perlu meng-install aplikasi Telegram terlebih dahulu.
