Med dagens teknik tillsammans med social medvetenhet är det inte längre okej att visa någon form av fördomar i en produkt eller tjänst, oavsett om det är avsiktligt eller inte. Det är därför som fingrarna pekas på Twitter efter att dess bildbeskärningsalgoritm visar en rasbias.
Har Twitter rasbias?
Twitter undersöker sin bildbeskärningsalgoritm efter att användare märkt att svarta ansikten inte alltid visades i bildförhandsgranskningar på mobil OS när en bild visar både ett svart ansikte och ett vitt ansikte.
Twitter rapporterade att det inte hittade några bevis på ras- och könsförskjutning när den testade sin algoritm, men det inser också att det finns fler tester att göra.
Det sociala nätverkets teknikansvariga, Parag Agrawal, sa att bilden för beskärning analyserades när den skickades men uppskattar att allmänheten hjälper till att testa den live. “Älska det här offentliga, öppna och rigorösa testet – och ivriga att lära av detta”, sa han.
En universitetschef i Vancouver, Colin Madland, startade denna satsning med att lägga märke till att när han zoomer med en svart kollega skulle den andra mans huvud försvinna. Det verkade som om programvaran såg det mörkare huvudet som en del av bakgrunden, så tog bort det.
Madland såg ett djupare problem när han twittrade om det. Han postade på Twitter för att fråga om någon visste vad som hände med att hans kollegas ansikte försvann. Men när han väl lagt upp en bild som inkluderade både hans ansikte och hans kollegas försvunna ansikte på Zoom, beskärde Twitter bilden för att bara visa Madland och inte den andra mannen.
Han upptäckte på Zoom att han kunde få den svarta mans ansikte att visas om en vit jordglob placerades bakom hans huvud som om det räckte för att skilja honom från bakgrunden. Ändå beskärde Twitter detta också. Det beskurade mannen med det saknade huvudet ut och också beskurna bilden med huvudet sett framför världen.
Twitters chefsdesignchef, Dantley Davis, tror att problemet skulle rättas till om Madlands ansiktshår och glasögon togs bort.
”Jag vet att du tycker att det är kul att dunka på mig – men jag är lika irriterad över det här som alla andra. Men jag är i stånd att fixa det, och jag kommer att göra det, säger Davis. ”Det är 100 procent vårt fel. Ingen borde säga något annat. ”
Twitter-användare utförde experiment för att bevisa teorin. De fann att algoritmen föredrog amerikanska senatens majoritetsledare Mitch McConnell framför USA: s tidigare president Barack Obama. Även med ett lagerfoto visades en vit man snarare än en svart man.
Twitter inte ensam
Detta är inte en isolerad situation med Twitter. Det har också hänt Microsoft, IBM och Amazon med deras ansiktsigenkänningssystem. De kunde inte identifiera lika färgade människor som vita människor.
Microsoft har sagt att de har vidtagit åtgärder för att rätta till problemet efter att ha insett att systemet var utbildat med mestadels vita ansikten. Systemet hade inte visat tillräckligt med färgfärg för att lära sig att identifiera dem korrekt. Senare föreslog Microsoft att ansiktsigenkänning bör regleras för att förhindra partiskhet.
IBM sa att det skulle lansera en ny version av sin tjänst. Amazons Rekognition-system identifierar ibland till och med svarta kvinnor som svarta män, men det har inte samma problem med vita kvinnor.
Problemet, som Madland påpekade på hans Twitter-konto, är att detta inte alltid är lika oskyldigt som ett Zoom-möte. Brottsbekämpning använder rekognition. Människor kan missidentifieras av detta system och anklagas för ett brott. Och det är i sig ett brott.
Bildkredit: Colin Midlands Twitter och Public domain