Twitter mengatakan Jumat akan menawarkan “hadiah” uang kepada pengguna dan peneliti untuk membantu membasmi bias algoritmik pada platform media sosial.

Perusahaan teknologi yang berbasis di San Francisco mengatakan ini akan menjadi “kontes hadiah algoritmik pertama di industri,” dengan hadiah hingga $3.500.

Kompetisi bergantung pada program “karunia bug” yang ditawarkan oleh beberapa situs dan platform untuk menemukan lubang keamanan dan kerentanan, menurut Indonesia CEO Roman Chowdhury dan Jutta Williams.

“Menemukan bias dalam model pembelajaran mesin itu sulit, dan terkadang, perusahaan menemukan kerusakan moral yang tidak disengaja begitu mereka benar-benar menjangkau publik,” tulis Choudhury dan Williams dalam sebuah posting blog.

“Kami ingin mengubah itu.”

Mereka mengatakan model penghargaan hacker menawarkan janji dalam menemukan bias algoritmik.

“Kami terinspirasi oleh bagaimana komunitas riset dan peretas telah membantu industri keamanan menciptakan praktik terbaik untuk mengidentifikasi dan mengurangi kerentanan guna melindungi publik,” tulis mereka.

“Kami ingin menumbuhkan komunitas serupa … untuk secara proaktif dan kolektif mengidentifikasi bahaya algoritme.”

Langkah ini dilakukan di tengah kekhawatiran yang berkembang tentang sistem algoritme otomatis, yang, meskipun ada upaya untuk bersikap netral, dapat mencakup rasis atau bentuk bias lainnya.

Twitter, yang awal tahun ini meluncurkan Inisiatif Keadilan Komputasi, mengatakan pada Mei bahwa mereka telah menghapus sistem pemotongan gambar otomatis setelah peninjauannya menemukan bias dalam algoritme yang mengontrol pekerjaan.

Platform perpesanan mengatakan menemukan bahwa algoritme memberikan “perlakuan yang tidak setara berdasarkan perbedaan demografis,” dengan kulit putih dan pria lebih disukai daripada kulit hitam dan wanita, dan bias “reifikasi” yang berfokus pada dada atau kaki wanita, yang digambarkan sebagai “tampilan maskulin. ” “