Twitter lietotāji atklāj iespējamo rasu aizspriedumu automātiskās apgriešanas algoritmā

Twitter mēģina noteikt, kāpēc tā fotoattēlu priekšskatīšanas funkcija parāda rasu aizspriedumu pazīmes. Vairāki lietotāji atklāja, ka melnās sejas biežāk tiek izgrieztas no fotoattēlu priekšskatījumiem, salīdzinot ar baltajām sejām.

Kļūda Twitter algoritmā

Kad Twitter vietnē redzat attēlu, tas ir tikai priekšskatījums, lai to redzētu, jums ir jānoklikšķina uz tā. Twitter izmanto algoritmu fotoattēlu apgriešanai, diktējot to, ko redzēsit attēlu priekšskatījumos.

2018. gadā Twitter paziņoja par savu viedās automātiskās apgriešanas funkciju ierakstā Twitter emuārs. Šī funkcija izmanto "salacy", lai uzlabotu redzamākās fotoattēlu daļas, un pēc tam tā attiecīgi apgriež fotoattēlu priekšskatījumus.

Twitter lietotāji atklāja, ka platformas neironu tīklā var būt rasu aizspriedumi. Viens lietotājs kopā ar bijušo prezidentu Baraku Obamu ievietoja ASV senatora Miča Makkonela attēlu.

Attēla priekšskatījums nepārprotami izgriež Obamas seju, pat ja viņa seja ir novietota fotoattēla augšdaļā. Kad tas pats lietotājs mēģināja apgriezt attēla krāsas, Obamas seja beidzot parādījās attēla priekšskatījumā.

Citi lietotāji sāka veikt savus eksperimentus. Atkal un atkal lietotāji atklāja, ka algoritms, šķiet, pastāvīgi dod priekšroku baltām sejām, nevis melnām sejām.

Liz Kelley, Twitter komunikācijas komandas locekle, atbildot uz čivināt lietotāju atklājumiem, nosūtīja čivināt. Viņa atzīmēja, ka, lai arī Twitter komanda jau ir pārbaudījusi algoritma neobjektivitāti, tai būs jāpēta sīkāk.

Visi šie atklājumi radās no lietotāja čivināt par a Tālummaiņas zvana problēma. Zoom nepārtraukti neizdevās atklāt sava melnā drauga seju, kad viņš mēģināja izmantot virtuālo fonu. Kad lietotājs vērsās pie Twitter, lai ievietotu problēmas ekrānuzņēmumus, Twitter izgrieza savu melno draugu no attēla priekšskatījuma.

Aizspriedumu noņemšana no čivināt

Lai gan visi šie eksperimenti ir neformāli, šķiet, ka tie izceļ reālu problēmu. Twitter noteikti būs tuvāk jāaplūko tā automātiskās apgriešanas funkcija un jāpārliecinās, vai tam ir iesakņojusies rasu aizspriedumi.

Tas nozīmē, ka Twitter automātiskās apgriešanas algoritms nav vienīgā Twitter funkcija, kas tiek kritizēta. Galu galā daudzi lietotāji arī nav fani par platformas algoritmu, kas automātiski sakārto jūsu plūsmu.

Kā (un kāpēc) atspējot algoritmiskās plūsmas Twitter, Instagram un Facebook

Algoritmiskās plūsmas kalpo tikai sociālajiem tīkliem. Lūk, kā pāriet uz hronoloģiskām plūsmām Twitter, Instagram un Facebook.

Par autoru