Ansiktsigenkänning känner inte igen mörkhyade kvinnor

Företag som jobbar med ansiktsigenkänning brukar skryta med en träffsäkerhet på närmare hundra procent. Men tekniken känner igen långt ifrån alla ansikten och allra sämst känner den igen mörkhyade kvinnor.

Joy Buolamwini driver initiativet Algoritmic Justice Leauge och beskriver sig själv som en poet med programmering som främsta uttryck. Hon har nyligen publicerat en undersökning där de kollat på hur korrekta de smarta algoritmerna för ansiktsigenkänning hos IBM, Microsoft och Faceplusplus egentligen är. Företagen själva brukar gå ut med strålande siffror som ligger runt 90 procent träffsäkerhet, men känner AI:n igen alla typer av ansikten lika bra?

För att undersöka detta var Buolamwini och hennes forskningsgrupp tvungen att ta fram ett eget prestandamätningsverktyg, då de snabbt märkte att de redan existerande var tydligt snedfördelade. Prestandamätning av ansiktsigenkänning går ut på att man har en uppsättning med olika ansikten som man testar AI:n på. De som redan fanns bestod av en majoritet mansansikten och det fanns väldigt få mörkhyade representerade bland ansiktena.

De skapade ett prestandatest med hälften kvinnor och män men också med en jämn fördelning av olika hudtoner. För att få ett så nyanserat resultat som möjligt kollade de på hur algoritmerna för ansiktsigenkänning hanterade vita män, vita kvinnor, mörkhyade kvinnor och mörkhyade mäns olika ansikten och de fann att resultaten skilde sig mycket från de cirka 90 procenten som företagen stoltserar med.

Microsoft, IBM och Faceplusplus var alla fruktansvärt bra på att känna igen vita män, där låg träffsäkerheten på 100, 99,7 och 99,2 procent. Gruppen som AI:n kämpade tveklöst mest med var mörkhyade kvinnor där träffsäkerheten istället låg på 79,2, 65,5 och 65,3 procent. Skillnaden mellan nästan 100 procent och runt 65–79 procent är anmärkningsbar.

Buolamwini och hennes forskargrupp delade med sig av resultaten till de berörda företagen som reagerade på lite olika sätt. Faceplusplus svarade inte ens, Microsoft svarade att de ständigt jobbar med att förbättra tjänsten och IBM tog resultaten på största allvar. De gjorde om testerna internt och fick ett liknande resultat. Detta ledde till att de uppdaterade programvaran den 23 februari i år och svarade Buolamwini med en fyra sidor lång rapport som visade förbättringarna – från 65,5 procent till 96,5 procent träffsäkerhet hos gruppen mörkhyade kvinnor.

Skriven av Amanda Reventlid
Kommentarer
5 svar

För alla som vill ta med sina äldre högtalaranläggningar in i teknikens nutid kan Belkin snart ha en lösning för att göra dem kompatibla med AirPlay 2.

Skärmkanter krymper och skärmstorlek växer tillsammans med ny skärmteknik är några av nyheterna som förväntas komma med de nya modellerna.

Signify har uppdaterat sin populära fjärrkontroll som är utplacerade i många hem och vars jobb är att styra vår belysning.

Spotify har sedan urminnes tider känns det som ett gratisalternativ där du kan lyssna på musik men med reklaminslag.

Med macOS 10.14 fick vi möjligheten att aktivera automatisk växling mellan ljust och mörkt läge på vår Mac, men nu finns en app som tar det steget längre.

Då var det torsdag igen och det betyder ett nytt avsnitt av er Apple-doftande podd Macradion.