TEMPO.CO, Jakarta - Twitter menyelidiki tuduhan rasis karena algoritma foto yang digunakannya lebih menyukai wajah berkulit putih dibandingkan hitam. Pengguna Twitter ramai menguji algoritma itu sepanjang akhir pekan lalu dan memberi bukti beberapa contoh preferensi untuk wajah yang berkulit putih dari sistem otomatis di platform media sosial itu.

Seperti yang pernah diumumkan 2018 lalu, fitur algoritma foto Twitter menggunakan jaringan neural, sebuah mesin sistem yang kompleks yang bisa mengambil keputusan mandiri. Dan Parag Agrawal, Chief Development Officer Twitter, memastikan fitur tersebut sebelumnya telah diuji untuk bisa menghindari praktik bias rasialisme dan hasilnya tidak menemukan bukti perlakuan bias atau gender.

Tapi peninjauan ulang tetap dilakukan setelah ratusan ribu retweet menarik perhatian pimpinan Twitter. Seorang juru bicara Twitter mengakui ada tim yang sedang menguji ulang fitur tersebut. Menurutnya, dari contoh-contoh kasus yang ada, jelas bahwa Twitter harus melakukan lebih banyak lagi analisis.

"Kami akan terus membagikan apa yang kami pelajari, tindakan apa yang kami ambil, dan akan membuka sumber analisis kami sehingga orang lain dapat meninjau dan mereplikasi," ujar juru bicara yang tak disebutkan namanya itu, seperti dikutip dari Daily Mail, Senin 21 September 2020.

Percakapan online tentang bias rasis itu telah memicu kemarahan dan mengarah ke berbagai tes yang berbeda ketika orang-orang mencoba menentukan apa yang mungkin menyebabkan praktik tak patut tersebut. Semua bermula ketika seorang pria kulit putih men-tweet bahwa rekannya, seorang pria kulit hitam, mengalami masalah dengan latar belakang virtual Zoom.

Dia men-tweet cuplikan masalah, di mana wajah rekannya tidak diambil oleh algoritma deteksi wajah Zoom, di Twitter dan melihat bahwa pratinjau default di platform media sosial itu juga 'tak berpihak' kepada rekannya. Berdasarkan temuan yang meresahkan ini, pengguna Twitter lainnya melakukan penyelidikan sendiri.

<!--more-->

Dia mengunggah dua foto sekaligus Mitch McConnell dan eks Presiden AS Barack Obama di tweet yang sama. Pada unggahan pertama, foto McConnell, pria kulit putih, berada di bagian atas, sedang pada unggahan atau tweet kedua foto Obama yang di bagian atas. Namun, untuk kedua unggahan itu, gambar pratinjau yang ditampikan Twitter adalah McConnell.

Demonstrasi sederhana ini langsug mengumpulkan lebih dari 185 ribu orang yang menyukai dan lebih dari 50 ribu retweet. Pengguna lain kemudian mempelajari tes yang lebih komprehensif untuk menangani variabel dan lebih memperkuat kasus terhadap algoritma di baliknya.

Seorang di antaranya bahkan menggunakan karakter kartun dalam bentuk Carl dan Lenny dari The Simpsons. Dalam hal ini algoritma memilih Lenny, yang berwarna kuning, bukan Carl, yang berkulit hitam.

Pada Senin Pagi, tampaknya Twitter telah membuat beberapa perubahan pada algoritmanya tersebut. Tampak dari foto Colin Madland sacara uruh bersama rekannya yang berkulit hitam. Demonstrasi Twitter tidak diragukan lagi membantu dalam menyediakan kasus untuk dipelajari oleh Twitter, tapi penyelidikan skala besar dengan ukuran sampel yang besar dan analisis ilmiah diperlukan untuk menentukan apakah, dan sejauh mana, algoritma tersebut bias.

Eksperimen sebelumnya telah menemukan cara sistem kecerdasan buatan mengumpulkan data sering kali menjadikannya rasis dan seksis. Menurut Irene Chen, mahasiswa PhD dari dari Massachusetts Institute of Technology, AS, ini bermula dari kurangnya keragaman set data yang sering digunakan untuk melatih sistem AI.

Namun, menurut yang menulis makalah tentang topik tersebut dengan profesor MIT David Sontag dan rekan pascadoktoral Fredrik D. Johansson mengatakan, algoritma hanya sebagus data yang mereka gunakan. "Penelitian kami menunjukkan bahwa Anda sering kali dapat membuat perbedaan yang lebih besar dengan data yang lebih baik," kata Chen.

DAILY MAIL | MIT