TEMPO.CO, Jakarta - Foto pemimpin Gereja Katolik sedunia Paus Francis yang mengenakan puffer jacket putih sempat viral di media sosial pada akhir Maret lalu. Paus berusia 86 tahun itu terlihat bergaya dengan banyak orang yang berkomentar pada jaket trendi-nya. Satu saja masalahnya: foto itu tidak sungguhan.

Foto atau gambar Paus itu dibangkitkan oleh kecerdasan buatan Midjourney, yang memproduksi gambar-gambar berbasis masukan dari teks. Gambar dipos di Reddit oleh artis yang menggunakan nama u/trippy_art_special pada 24 Maret 2023. Sejak itu akun tersebut telah dibekukan, tapi satu gambarnya sudah sempat beredar di jagat Twitter, yang sukses mengelabui banyak orang.

Pakar kultur web Ryan Broderick telah menyebut foto Paus Francis itu, "kasus pertama yang nyata untuk mis-informasi skala massal gara-gara AI." Tapi isu ini sebenarnya telah berkembang sejak beberapa pekan sebelumnya, menyusul pembaruan Midjourney yang secara signifikan memperbaiki standar gambar-gambar outputnya.

Sebelum Paus Francis, Midjourney menciptakan gambar eks Presiden AS Donald Trump yang sedang ditangkap. Gambar bangkitan AI dari asupan teks yang disediakan Eliot Higgins, pendiri Bellingcat, sebuah kelompok jurnalisme investigatif, ini juga viral.

"Saya kira ini adalah satu contoh dari sebuah problem yang lebih luas tentang teknologi-teknologi yang sedang didorong ke dalam masyarakat kita tanpa pengawasan, regulasi, atau standar," kata Elinor Carmi, pengajar Politik Data dan Keadilan Sosial di Departemen Sosiologi dan Kriminologi, City University of London, Inggris.

Ketakutan akan kepalsuan AI tidaklah baru. Selama beberapa tahun sebelumnya sudah ada gambar-gambar deepfake atau citra wajah orang yang diproduksi mengguanak generasi AI sebelumnya yang dilatih pada volume informasi yang lebih kecil. Pada deepfake, hasilnya masih kerap memiliki tanda yang mudah dikenali kepalsuannya, seperti mata yang tak berkedip atau telinga yang tersamar.

Adapun pembaruan oleh Midjourney masih berjuang dengan bagian tangan, dan kerap terlihat memberikan jari-jari tambahan. Tapi, saat berhadapan dengan sebuah gambar di mana tangan bukan menjadi fokusnya, seperti Paus di atas, orang-orang bisa terkelabui.

Agnes Venema, ahli kebijakan keamanan dan deepfake dari University of Malta menyebutkan, ada juga isu skala. Platform di mana gambar Paus itu dipos disebutkan memiliki banyak contoh lain, gambar-gambar AI yang sama meyakinkannya, yang dibuat oleh 143 ribu anggotanya.

Tercakup di dalamnya adalah seri foto-foto yang mendokumentasikan gampa fiktif di AS dan Kanada pada 2001 yang teleh menginsiprasi mitosnya sendiri. Komentar teratas atas pos gambar-gambar itu mengatakan: Orang-orang pada 2025 akan benar-benar kesulitan dengan mis-informasi. Sedangkan orang-orang pada 2100 tidak akan tahu mana bagian dari sejarah yang sebenarnya...

NEW SCIENTIST

Pilihan Editor: Adakah Peran Petir pada Ledakan di Kilang Pertamina Dumai?