TEMPO.CO, Jakarta - OpenAI telah mulai memblokir akses ke chatbot AI, ChatGPT, di Italia. Langkah ini mengikuti perintah otoritas perlindungan data lokal pada hari Jumat, 31 Maret 2023, bahwa mereka harus berhenti memproses data orang Italia untuk layanan ChatGPT.

Dalam sebuah pernyataan yang muncul secara online kepada pengguna dengan alamat IP Italia yang mencoba mengakses ChatGPT, OpenAI menulis bahwa mereka menyesal untuk memberi tahu pengguna bahwa mereka telah menonaktifkan akses ke pengguna di Italia atas permintaan otoritas perlindungan data, Garante.

OpenAI juga mengatakan akan melakukan pengembalian uang untuk semua pengguna di Italia yang membeli layanan berlangganan ChatGPT Plus bulan lalu dan mencatat juga bahwa perpanjangan langganan "sementara berhenti" di Italia, agar pengguna tidak akan dikenakan biaya saat layanan ditangguhkan.

OpenAI tampaknya menerapkan geoblock sederhana pada saat ini, yang berarti bahwa menggunakan VPN untuk beralih ke alamat IP non-Italia menawarkan solusi sederhana untuk pemblokiran tersebut. Meskipun jika akun ChatGPT awalnya terdaftar di Italia, akun tersebut mungkin tidak lagi dapat diakses dan pengguna yang ingin menghindari pemblokiran mungkin harus membuat akun baru menggunakan alamat IP non-Italia.

Pada hari Jumat, Garante mengumumkan telah membuka penyelidikan ke ChatGPT atas dugaan pelanggaran Peraturan Perlindungan Data Umum (GDPR) Uni Eropa, dengan mengatakan bahwa pihaknya khawatir OpenAI telah memproses data orang Italia secara tidak sah.

OpenAI tampaknya tidak memberi tahu siapa pun yang data daringnya ditemukan dan digunakan untuk melatih teknologi. Juga belum sepenuhnya terbuka tentang data yang diprosesnya — tentu saja bukan untuk iterasi terbaru dari modelnya, GPT-4. Dan meskipun data pelatihan yang digunakannya mungkin bersifat publik, GDPR masih menyokong prinsip transparansi, yang menyarankan baik pengguna maupun orang yang datanya diambil harus diberi tahu.

Dalam pernyataannya kemarin, Garante juga menunjukkan kurangnya sistem untuk mencegah anak di bawah umur mengakses teknologi tersebut, dan mencatat bahwa tidak ada fitur verifikasi usia untuk mencegah akses yang tidak pantas, misalnya.

Selain itu, regulator itu telah menyuarakan keprihatinan atas keakuratan informasi yang disediakan oleh chatbot itu.

ChatGPT dan chatbot AI generatif lainnya diketahui terkadang menghasilkan informasi yang salah tentang individu yang disebutkan — cacat yang oleh pembuat AI disebut sebagai "berhalusinasi". Ini bermasalah di UE karena GDPR memberi individu serangkaian hak atas informasi mereka — termasuk hak untuk memperbaiki informasi yang salah. Dan, saat ini, tidak jelas apakah OpenAI memiliki sistem di mana pengguna dapat meminta chatbot untuk berhenti berbohong tentang mereka.

Dalam pernyataan publiknya kepada pengguna yang diblokir secara geografis di Italia, OpenAI mengklaim: "Kami berkomitmen untuk melindungi privasi orang dan kami yakin kami menawarkan ChatGPT sesuai dengan GDPR dan undang-undang privasi lainnya."

“Kami akan terlibat dengan Garante dengan tujuan memulihkan akses Anda sesegera mungkin,” tulisnya juga, seraya menambahkan: “Banyak dari Anda telah memberi tahu kami bahwa menurut Anda ChatGPT berguna untuk tugas sehari-hari, dan kami berharap dapat membuatnya tersedia lagi segera."

Meskipun memberikan nada optimis menjelang akhir pernyataan, tidak jelas bagaimana OpenAI dapat mengatasi masalah kepatuhan yang diangkat oleh Garante – mengingat cakupan kekhawatiran GDPR yang luas saat memulai penyelidikan yang lebih dalam.

Peraturan pan-EU menyerukan perlindungan data dengan desain dan default — artinya proses dan prinsip yang berpusat pada privasi seharusnya tertanam ke dalam sistem yang memproses data orang sejak awal.

Hukuman untuk pelanggaran GDPR yang dikonfirmasi, sementara itu, dapat ditingkatkan hingga 4% dari omset global tahunan pemroses data (atau €20 juta, mana yang lebih besar).

Selain itu, karena OpenAI tidak memiliki kantor utama di UE, otoritas perlindungan data blok mana pun diberi wewenang untuk mengatur ChatGPT — yang berarti semua otoritas negara anggota UE lainnya dapat memilih untuk turun tangan dan menyelidiki — dan mengeluarkan denda untuk setiap pelanggaran yang mereka temukan.

TECHCRUNCH

Selalu update info terkini. Simak breaking news dan berita pilihan dari Tempo.co di kanal Telegram “Tempo.co Update”. Klik https://t.me/tempodotcoupdate untuk bergabung. Anda perlu meng-install aplikasi Telegram terlebih dahulu.