TEMPO.CO, Jakarta - Sempat viral di Twitter pada minggu lalu foto atau gambar ledakan dengan asap membubung dekat Pentagon, Kantor Departemen Pertahanan Amerika Serikat. Gambar palsu yang ternyata dibuat oleh AI tersebut tentu saja akan mengganggu kehidupan di dunia nyata di kemudian hari apabila terulang.

Tak lama dari viralnya foto palsu itu, Twitter memperluas program pemeriksaan fakta crowdsourced miliknya untuk menyertakan gambar di dalamnya. Dalam pengumumannya, Twitter secara khusus menyebut gambar palsu yang dibuat oleh AI telah menjadi kombinasi dari membingungkan, menakutkan, dan lucu karena telah menjadi viral di platform tersebut.

Misalnya, foto ledakan di Pentagon yang palsu itu yang dibagikan oleh akun dengan tanda centang biru terverifikasi minggu lalu, salah satunya berpura-pura berafiliasi dengan Bloomberg News. Dalam contoh lainnya, pernah beredar pula foto Paus Fransiskus yang dihasilkan oleh AI yang terlihat seperti bintang hype streetwear. Sama dengan yang terkini, foto itu viral sebelum banyak orang mengetahui bahwa foto palsu.

Twitter mengumumkan menambahkan fitur baru yang dapat membantu pada 30 Mei 2023. Ada sedikit kemungkinan gambar seperti itu tidak akan pernah muncul lagi di platform, tetapi Twitter mengatakan salah satu cara untuk menangani deepfake adalah dengan memperluas alat Catatan Komunitas yang sudah ada di platform.

Foto palsu ledakan dekat pentagon. Foto : AI generate

Hingga saat ini, Catatan Komunitas telah tersedia yang dapat menambahkan konteks pada tweet yang menyesatkan. Untuk pengguna Twitter biasa, fitur ini sangat berguna, mengingat semua tweet yang menghasut biasany tidak menjelaskan konteksnya. Twitter sekarang akan menerapkan pendeteksi ini ke gambar atau foto.

“Dari gambar yang dihasilkan AI hingga video yang dimanipulasi, media yang menyesatkan adalah hal biasa,” kata Twitter. “Hari ini kami menguji coba fitur yang memberikan kekuatan super ke tangan kontributor: Notes on Media.”

Saat pengguna yakin bahwa suatu gambar berpotensi menyesatkan, mereka sekarang dapat mengeklik tab "Tentang gambar". Pengguna kemudian akan dapat menulis informasi tambahan yang secara khusus terkait dengan gambar, dan informasi baru itu akan muncul di bawah gambar yang cocok yang dikirim ke seluruh platform.

Dikatakan juga bahwa dalam waktu dekat, fitur yang sama akan tersedia untuk banyak gambar dan video. “Catatan Komunitas kini dapat dilihat publik oleh semua orang di AS,” tulis Twitter pada bagian Pusat Bantuan.

Foto Palsu

Pada Senin pagi, 22 Mei 2023, akun Twitter terverifikasi bernama Bloomberg Feed membagikan tweet yang mengejutkan terutama bagi publik di Amerika. Ia menulis, "Ledakan Besar di dekat Kompleks Pentagon di Washington, D.C. - Laporan Awal", sembari menampilkan foto kepulan asap hitam yang besar di samping bangunan yang mirip Pentagon.

Jika diamati lebih dekat, gambar itu ternyata palsu, kemungkinan dihasilkan oleh kecerdasan buatan (AI). Laporan ledakan dengan cepat dibantah sejalan dengan tweet itu yang secara singkat menggerakkan pasar saham, karena Indeks Industri Dow Jones sempat turun 85 poin dalam waktu empat menit.

Secara keseluruhan, tipuan - yang terbaru dari serangkaian gambar yang dihasilkan AI untuk menipu beberapa pengguna media sosial - tampaknya tidak banyak menimbulkan kerusakan langsung. Twitter sejak itu menangguhkan akun Bloomberg Feed, yang tidak terkait dengan organisasi media Bloomberg yang sebenarnya, dan dalam waktu sekitar 20 menit, otoritas lokal telah menyanggah laporan tersebut.

“Hanya melihat gambar itu sendiri, itu bukan Pentagon,” kata Nate Hiner, seorang komandan pemadam kebakaran di Arlington, Virginia, di mana Pentagon berada. “Saya tidak tahu bangunan apa itu. Tidak ada bangunan yang terlihat seperti itu di Arlington.”

Namun mekanisme yang terlibat, mulai dari penguatan gambar oleh akun propaganda besar hingga respons yang hampir seketika dari pasar saham, menunjukkan potensi lebih banyak kerusakan jika alat AI terus membuat terobosan di bidang seperti moderasi media sosial, penulisan berita, dan perdagangan saham. .

Dan Twitter tampaknya bisa menjadi media yang menyuburkannya karena pemilik barunya, Elon Musk, telah memberangus tim yang biasa bekerja memeriksa tren viral. Selain itu, Elon Musk mengubah verifikasi akun dari proses otentikasi manual menjadi yang sebagian besar otomatis dan membayar.

Centang biru yang pernah menunjukkan otoritas untuk figur publik, organisasi besar, selebritas, dan lainnya berisiko disusupi. Sekarang, Twitter memberikannya kepada siapa pun yang bersedia membayar $8 per bulan dan mengonfirmasi nomor telepon mereka.

THE VERGE, TWITTER, WASHINGTON POST, SILICON ANGLE

Pilihan Editor: 5 Pesawat Terbesar di Dunia, Salah Satunya Airbus A380-800 yang Bakal Rutin Terbang ke dan dari Bali