Mahasiswa Buktikan Bias Twitter Terhadap Kulit Gelap dan Wajah Tua
Sebuah penelitian menguatkan tudingan bahwa algoritme foto otomatis Twitter memang mendukung wajah yang muda, feminin, dan berkulit terang. Sebelumya, Twitter menawarkan hadiah uang tunai kepada pengguna yang dapat membantunya menghilangkan bias dalam algoritme fotonya itu.
Bogdan Kulynych, mahasiswa dari École Polytechnique Fédérale de Lausanne (EPFL), Swiss, mengungkapkan bias algoritme selama kompetisi di konferensi keamanan di Las Vegas, Amerika Serikat, yang digelar Twitter. Karena berhasil membuktikannya, Twitter menghadiahi Kulynych dengan uang tunai senilai US$ 3.500 (Rp 50,4 juta).
“Algoritme Twitter lebih menyukai wajah yang lebih muda, lebih ramping, dan lebih cerah daripada mereka yang memiliki fitur lebih besar, lebih tua, dan lebih gelap,” ujar Kulynych setelah mengikuti kompetisi di konferensi keamanan DEF CON, bagian dari algorithmic bug bounty pertama Twitter, seperti dikutip The Hill, 11 Agustus 2021.
Untuk membuktikan bias tersebut, Kulynych membuat wajah secara artifisial dengan fitur yang berbeda. Kemudian menjalankannya melalui algoritma cropping Twitter untuk mempelajari bagaimana perangkat lunak di aplikasi media sosial itu berfokus pada setiap gambar. Setelah menjalankan tes, menjadi jelas bahwa algoritme Twitter bekerja melawan wajah hitam.
Menurut Kulynych, kerugian algoritmik bukan hanya ‘bug’. Banyak teknologi berbahaya bukan karena kecelakaan, kesalahan yang tidak disengaja, tapi lebih karena desain. “Ini berasal dari maksimalisasi keterlibatan dan, secara umum, keuntungan mengeksternalisasi biaya kepada orang lain,” katanya.
Rumman Chowdhury, Kepala Tim Etik Kecerdasan Buatan di Twitter, dalam konferensi tersebut, menerangkan, ketika pihaknya memikirkan bias dalam model Twitter, ini bukan hanya tentang akademis atau eksperimental. “Tetapi bagaimana itu juga bekerja dengan cara kami berpikir di dalam masyarakat,” tutur dia.
Chowdhury menggunakan ungkapan ‘seni meniru kehidupan’ dan menjelaskan bahwa pihaknya membuat filter karena timnya pikir itu indah. “Dan itu akhirnya melatih pemodelan kami dan mendorong gagasan yang tidak realistis tentang apa artinya menjadi menarik,” kata dia.
Ini bukan pertama kalinya perangkat lunak Twitter dikaitkan dengan bias algoritmik. Perusahaan berlogo burung biru itu harus meminta maaf pada 2020 setelah pengguna memperhatikan bahwa fitur cropping lebih menyukai wajah putih daripada wajah hitam.
THE HILL | THE GUARDIAN | DAILY MAIL
