TEMPO.CO, Jakarta - Perkembangan teknologi artificial intelligence atau AI memiliki efek samping memicu produksi konten deepfake semakin mudah dan banyak dijumpai. Para ilmuwan dan pakar teknologi sangat mewanti-wanti permasalahan ini dengan menerbitkan surat terbuka.

Surat berjudul 'Mengganggu Rantai Pasokan Deepfake' ditandatangani oleh 400 lebih pakar yang terdiri dari akademisi, politikus, dan pelaku industri teknologi. Di dalamnya termasuk pemilik X yang juga petinggi di SpaceX dan Tesla, Elon Musk, serta dua peneliti di Google.

Diketahui, deepfake adalah teknologi manipulasi gambar, video dan audio yang menggunakan kecerdasan buatan untuk menciptakan konten dengan objek yang tidak asli atau penipuan. Misalnya, memanipulasi wajah dan suara seseorang menjadi konten tanpa izin dan merugikan.

Pembuatan surat terbuka dipelopori oleh pakar AI dan ilmuwan komputer, Yoshua Bengio. Ia menyerukan kepada para pakar dan pengamat teknologi untuk mengawasi peraturan seputar pembuatan deepfake, terutama risikonya terhadap keamanan masyarakat.

Deepfake yang kini berkembang di media sosial dan internet, kata Yoshua, melibatkan gambar hingga video dengan muatan seksual, penipuan, dan disinformasi politik. "Kemajuan pesat AI membuat deepfake lebih mudah untuk diproduksi, kondisi ini perlu dibatasi," kata Yoshua, dikutip dari REUTERS, Kamis, 22 Januari 2024.

Senada dengan Yoshua, Peneliti di UC Berkeley, Andrew Critch juga menyebut perlu perlindungan terhadap perkembangan deepfake yang dinilainya menakutkan pada masa kini. Ia bersama kelompoknya telah membuat surat untuk mewanti-wanti perkembangan deepfake supaya segera dibuat regulasi penggunaannya.

Tuntut Hukuman Pidana untuk Pelaku dan Penyebar Deepfake

Surat yang ditandatangani lebih dari 400 orang ini juga memberikan rekomendasi tentang cara mengatur deepfake, termasuk pemanfaatannya yang merugikan pengguna internet. Peneliti dan ilmuwan teknologi juga mengharapkan pelaku pembuatan dan penyebaran deepfake dihukum pidana.

Laporan REUTERS mencatat bahwa deepfake berkembang pesat sejak beberapa waktu belakang yang dimulai dengan munculnya AI. Selain itu, perusahaan teknologi yang bergerak di bidang ini juga turut memfasilitasi dengan hadirnya ChatGPT dari OpenAI, akhirnya deepfake semakin mudah untuk diproduksi.

Di sisi lain, ilmuwan teknologi meminta pengawasan yang signifikan kepada raksasa teknologi AI. Mereka diharap bisa mengatur dan membatasi penggunaan AI yang berpotensi melanggar seperti deepfake ini.

Pilihan Editor: Di Balik Foto Paus Francis Kenakan Puffer Jacket yang Viral di Medsos