Twitter atklāj, ka tas ir novecojis AI apgriešanu rases un dzimumu aizspriedumu dēļ

Pirmo reizi domu, ka Twitter attēlu apgriešanas algoritmam varētu būt dažas neobjektivitātes, mēs dzirdējām 2020. gada septembrī. Kriptogrāfijas inženieris Tonijs Arkjēri augšupielādēja divus attēlus, kuros bija redzams Senāta vairākuma līderis Mičs Makkonels un bijušais prezidents Baraks Obama, un AI abas reizes apgriezās pie Makkonela sejas.

Kad strīds galu galā nonāca pie cilvēkiem vietnē Twitter, uzņēmums apsolīja analizēt savu modeli. Visbeidzot, mēs varam iepazīties ar šiem atklājumiem.

Twitter dalās ar algoritmu analīzes rezultātiem

Maija sākumā Twitter beidzot izvērsa pilna izmēra attēlu priekšskatījumus savā mobilajā laika grafikā. Ziņa Twitter emuārā ir atklājusi, ka lietotne veicināja savu attēlu apgriešanas algoritmu pēc tam, kad analīze parādīja, ka tai ir aizspriedumi pēc rases un dzimuma.

Platforma 2018. gadā sāka izmantot attēla algoritmu, lai apgrieztu savus attēlus. Twitter saka, ka uztura modeļi tiek apmācīti par cilvēka acu izsekošanas datiem, kurus pēc tam izmanto algoritms, lai novērtētu, kuri priekšmeti / elementi attēlā, visticamāk, visvairāk ir svarīgi cilvēki.

Pēc tam algoritms nāca klajā ar attēla visu punktu daļu, pirms izvēlas punktu ar augstāko punktu, lai tas būtu apgriešanas centrs.

Pēc kvantitatīvā testa veikšanas, lai pārbaudītu iespējamās neobjektivitātes, komanda atklāja, ka uztura algoritms, šķiet, dod priekšroku sievietēm, nevis vīriešiem, un baltajiem cilvēkiem, salīdzinot ar melnajiem.

Twitter arī pārbaudīja "vīriešu skatiena" algoritmu, taču netika atrasti objektivizācijas aizspriedumu pierādījumi.

Pat ja uzmanības algoritms tika pielāgots, lai atspoguļotu perfektu vienlīdzību starp rases un dzimuma apakšgrupām, mēs [Twitter] esam noraizējušies automatizētā algoritma reprezentatīvais kaitējums, kad cilvēkiem nav atļauts sevi pārstāvēt, kā viņi vēlas platforma. Salātijai ir arī citi potenciālie zaudējumi, kas neietilpst šajā analīzē, tostarp nejutīgums pret kultūras niansēm.

Apsverot kompromisus starp automatizētās augkopības ātrumu un konsekvenci un tā riskiem, Twitter saka, ka tās komanda saprata, ka attēla apgriešana ir cilvēku labākais lēmums - nevis algoritmi.

Saistīts: Tehnoloģiju tendences, kas jau maina nākotni

Twitter atbrīvojas no automātiskās attēlu apgriešanas

Twitter vairs neizmanto salacy algoritmu, un tagad pilnībā attēlo standarta proporcijas fotoattēlus gan iOS, gan Android. Izstrādājot čivināt, jūs atradīsit, ka jaunais atjauninājums ietver arī patiesu augšupielādēto attēlu priekšskatījumu, lai jūs zināt, kā viss izskatīsies pēc publicēšanas.

Ja jūs interesē pētījuma akadēmiskā darba lasīšana, varat to atrast vietnē arXiv.org. Analīzei varat atrast arī čivināt kodu GitHub.

Kā augšupielādēt un apskatīt 4K attēlus čivināt

Twitter lietotne tagad ļauj augšupielādēt un skatīt attēlus 4K formātā. Lūk, kā mainīt iestatījumus.

Lasiet Tālāk

Par autoru