TEMPO.CO, Jakarta - Chatbot AI Grok kini memungkinkan pengguna menciptakan gambar-gambar dari instruksi teks dan mempublikasikannya di platform media sosial X. Sama seperti X--dulu Twitter, perusahaan kecerdasan buatan xAI yang memproduksi Grok dimiliki Elon Musk.

Sayangnya, kemampuan terkini Grok membawa serta kontroversi. Para pelanggan X Premium, yang mendapatkan akses ke Grok, telah mengunggah banyak, mulai dari Barrack Obama mengisap kokain sampai Donald Trump bersama wanita hamil yang menyerupai Kamala Harris, wakil Presiden AS saat ini.

Dengan agenda pemilihan presiden AS yang semakin dekat dan X yang sudah mendapat kecaman dari sejumlah regulator komunikasi di Eropa, Grok diprediksi bakal menambah polemik mengenai risiko-risiko dari AI generatif.

Grok sebenarnya membeberkan batas panduan yang dimilikinya jika pengguna bertanya semacam ini: apa saja batasan anda dalam membangkitkan gambar. Di antara penjelasan yang diberikan itu, Grok menjanjikan menghindari membangkitkan gambar-gambar porno, mengandung kekerasan berlebihan, kebencian, atau yang mendorong aktivitas berbahaya.

Grok juga menyatakan berhati-hati tentang gambar-gambar yang mungkin menyinggung hak cipta atau merek yang sudah ada. Itu termasuk karakter terkenal, logo, atau konten yang dapat dianggap properti intelektual tanpa sebuah unsur transformatif.

Grok berjanji pula tidak akan membangkitkan gambar yang dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang dimaksudkan untuk menyesatkan, atau gambar-gambar yang bisa membahayakan di dunia nyata.

Namun, semua itu diduga bukan aturan yang benar-benar berlaku. Sebaliknya, seperti jawaban prediktif bangkitan AI.

Pasalnya, dengan mengulang-ulang pertanyaan yang senada akan didapat jawaban berisi kebijakan yang berbeda-beda, yang sebagian bisa tak mencerminkan kebijakan kehati-hatian terhadap sensitivitas budaya.

Versi teks Grok akan menolak jika instruksinya seperti cara membuat kokain--yang juga berlaku standar untuk chatbot. Tapi, gambar yang dibuatnya bisa mencakup gambar-gambar yang umumnya akan diblok segera oleh chatbot lain.

Mickey Mouse merokok dan mengenakan topi MAGA ini adalah satu contoh bangkitan gambar AI yang bisa 'diloloskan' Grok, chatbot produksi xAI

Contoh kasusnya adalah Grok tak masalah membuatkan gambar Donald Trump mengenakan seragam Nazi, sexy Taylor Swift, Bill Gates mengisap kokain dari meja berlogo Microsoft, dan Barrack Obama menikam Joe Biden dengan pisau.

Contoh lainnya adalah karakter Mickey Mouse sedang minum bir dan merokok sambil mengenakan topi MAGA (Make American Great Again). Atau, Taylor Swift dalam sebuah pesawat terbang yang hendak menghunjam Menara Twin Towers. Atau, sebuah bom yang meledakkan Taj Mahal.

Eksperimen lain yang dilakukan pengguna di X menunjukkan bahkan kalaupun Grok menolak membangkitkan sebuah gambar, celah untuk memperdayanya mudah sekali ditemukan. Itu yang seperti dibuktikan Christian Montessori yang membuat gambar-gambar Elon Musk dan Mickey Mouse menggenggam senjata di antara jasad anak-anak yang berdarah-darah. "Bahkan bisa juga pornografi jika dapat celahnya yang pas," kata dia.

Grok bukan satu-satunya cara untuk bisa mendapatkan gambar-gambar kekerasan, seksual, dan palsu bangkitan AI. Sejumlah software tool sumber terbuka juga bisa disalahgunakan untuk menghasilkan beraneka konten bermasalah. Masalahnya adalah sangat tidak biasa ini datang dari sebuah chatbot online milik perusahaan teknologi besar.

Dalam kasus Gemini, misalnya, Google langsung membekukan kemampuan bangkitan gambar chatbot AI miliknya itu begitu terjadi masalah overkoreksi stereotip ras dan gender.

Kembali ke Grok. Problem yang kini mengemuka konsisten dengan Elon Musk yang selama ini dikenal meremehkan standar AI dan konvensi keselamatan di media sosial.

Kontroversi Grok muncul bersamaan dengan Komisi Eropa yang mulai menyelidiki X untuk potensi pelanggaran Undang-Undang Keselamatan Digital. X termasuk yang telah dimintai keterangannya pada tahun ini tentang mitigasi risiko terkait AI.

THE VERGE

Pilihan Editor: Undip Bantah Bullying di Balik Kematian Dokter Muda Peserta Pendidikan Spesialis Program Studi Anestesi