ISTRAŽIVANJE: Twitter algoritam favorizuje mršavija, mlađa lica svetlije puti

Bogdan Kulynyc osvojio je 3.500 dolara (2.530 funti) na takmičenju koje je organizovao Twitter da pronađe pristrasnosti u svom algoritmu za kropovanje. Ranije ove godine, Twitter-ovo sopstveno istraživanje otkrilo je da algoritam ima predrasude prema kropovanju crnih lica.

Kao rezultat toga, kompanija je revidirala način na koji se radi sa slikama, rekavši da kropovanje najbolje rade ljudi. “Saliency algorithm” odlučio je kako će slike biti isečene u pregledima na Twitteru, pre nego što se klikne na njih da se otvore u punoj veličini. Kada su dva lica bila na istoj slici, otkrili su korisnici, izgledalo je da isecanje za pregled daje prednost belim licima, skrivajući crna lica, sve dok korisnici ne kliknu na fotografiju. Obrazac je važio za slike bivšeg američkog predsednika Baracka Obame i senatora Mitcha McConnnella – kao i za slike poslovnih ljudi koji pripadaju različitim nacionalnostima.

SPREČAVA ŠIRENJE DEZINFORMACIJA: Twitter počinje sa sarađuje sa portalima za vesti

Twitter od sledećeg meseca ukida Fleets

Naknadna analiza Twittera pokazala je “razliku od 4% u odnosu na demografski paritet, u korist belih pojedinaca”.  “Algorithmic-bias bounty competition” pokrenut je u julu – referenca na široko rasprostranjenu praksu kompanija koje nude “nagrade za greške” za istraživače koji pronađu nedostatke u kodu – sa ciljem otkrivanja drugih štetnih pristrasnosti. Bogdan Kulynyc, apsolvent na Swiss Federal Institute of Technology u Lozani, otkrio je da bi se “izrazitost” lica na slici mogla povećati – čineći manju verovatnoću da će biti skrivena algoritmom za kropovanje – “čineći kožu osobe svetlijom ili toplijom i glatkijom; i često promenom izgleda u izgled mlađe, vitke i stereotipnije ženstvene osobe”.

Dodeljujući mu prvu nagradu, Twitter je rekao da je njegovo otkriće pokazalo da se filteri lepote mogu koristiti za igru sa algoritmima i “kako algoritamski modeli pojačavaju pristrasnosti u stvarnom svetu i društvena očekivanja lepote”. Druga nagrada pripala je Halt AI-u, koji je pokazao da algoritam može da poveća marginalizaciju načinom na koji su slike isečene. Na primer, “slike starijih i nemoćnih osoba bile su dodatno marginalizovane”, saopštila je kompanija. Osnivač Taraaz Research -a Roya Pakzad osvojio je treću nagradu za rad koji je pokazao da algoritam pre kropuje arapski tekst nego engleski u mimovima.