TEMPO.CO, Jakarta - Facebook mengirimkan hampir setengah juta laporan per bulan dari pengguna yang menandai balas dendam porno pada platformnya, kata sebuah laporan baru, sebagaimana dikutip Daily Mail, 18 November 2019.

Menurut NBC, aliran laporan itu tetap ada meskipun ada upaya yang meningkat dari Facebook untuk dengan cepat mengidentifikasi dan menghapus gambar-gambar bugil yang telah diunggah tanpa persetujuan seseorang.

Di antara laporan itu, menurut NBC, adalah akun gambar bugil yang diposting sebagai balas dendam terhadap orang lain dan juga apa yang dikenal sebagai 'sextortion’, di mana gambar bugil di-posting ke situs dalam upaya untuk mengirim pesan hitam kepada seseorang.

Untuk menghadapi masuknya balas dendam porno, Facebook mempekerjakan tim yang terdiri dari 25 orang yang bersama-sama dengan algoritma yang dikembangkan untuk mengidentifikasi gambar bugil, membantu memeriksa laporan dan menurunkan gambar-gambar porno.

Menurut NBC, Facebook telah berupaya untuk memperbaiki proses penandaan gambar berbahaya sejak salah langkah beberapa tahun yang lalu di mana perusahaan meminta pengguna untuk mengirim foto bugil mereka ke platform terlebih dahulu.

Dalam uji coba itu, Facebook berusaha untuk menggunakan foto telanjang yang dikirimkan ke platform sebagai sarana untuk melatih kecerdasan buatannya untuk mengidentifikasi dan menghapus gambar jika mereka muncul di platform itu.

Program itu disambut dengan tanggapan yang sebagian besar negatif dengan beberapa skeptis yang meragukan apakah gambar mereka akan dilihat oleh pengulas konten yang bekerja untuk Facebook.

"Kedengarannya itu akan menjadi alat yang membantu, tetapi kemudian Anda mulai berpikir tentang berbagi foto ini dengan orang lain," Nicole Brzyski, seorang korban balas dendam porno kepada NBC.

“Kami sudah sangat tidak nyaman dan trauma. Saya tidak pernah melakukannya karena saya takut foto-foto ini entah bagaimana akan bocor lagi. Siapa yang tahu siapa yang melihatnya?”'

Facebook mengatakan bahwa mereka tidak membuat katalog gambar yang diberikan ke platform itu dalam bentuk gambar, melainkan mengubahnya menjadi jenis sidik jari digital yang disebut hash yang kemudian digunakan untuk mengidentifikasi gambar di seluruh konstelasi aplikasi, termasuk Instagram dan WhatsApp.

Facebook menggunakan sistem yang sama untuk menghilangkan gambar dan video pelecehan seksual.

DAILY MAIL | NBC