AI & Watson

Det var inte bättre förr! AI blåser liv i diskussionen vi borde ha haft för årtionden sedan

Share this post:

Sommaren 2018, vilken toppensommar! Bästa vädret på över 250 år. Dessvärre funderar nu många av oss på om detta inte var det ultimata beviset på att vi kollektivt måste ändra våra levnadsvanor snarast. När det känns för bra för att vara sant är oftast det. Jag hörde en kvinna på bussen berätta om sin sommar för en väninna. Hon hade varit på Åland. Hennes oro var uppenbar. Algblomningen gjorde att barnen inte hade kunnat bada. Under hennes barndoms somrar var det annorlunda. Vattnet i Östersjön var klart och friskt. Orden som hängde i luften men aldrig uttalades var;

”Nog var det bättre förr”

Det är just de orden vi innerligt hoppas att vi aldrig ska behöva uttala när vi talar om den digitala utvecklingen generellt och om artificiell intelligens specifikt. Men nog har vi alla stött på dem; tidningsartiklarna och blogginläggen som fastslår att AI diskriminerar. ”Google-algoritm diskriminerar med avseende på kön” medan ”Microsoft- och IBM-algoritmer diskriminerar med avseende på hudfärg”.

I mediastormen kring Googles annonssystem avslöjades att det är mer troligt att du får förslag på jobbannonser för välbetalda jobb om du är man än om du är kvinna. I den studie som gjordes skapades fiktiva användare som hade exakt samma browserhistorik och surfbeteende men olika kön. Annonserna som visades för dessa användare jämfördes.

Resultatet blev bekymrande nog att de manliga användarna fick se fler jobbannonser för välbetalda jobb än vad de kvinnliga användarna fick se.

Såväl Microsoft som IBM hamnade i blåsväder när en annan studie visade att deras respektive ansiktsigenkänningsapplikationer hade en betydligt lägre träffsäkerhet på mörkhyade personer, i synnerhet mörkhyade kvinnor. Detta inträffade efter att en helt annan bildigenkänningsapplikation misslyckades till den grad med ansiktsigenkänning av mörkhyade ansikten att den trodde sig ha hittat ett djur i bilden där den i själva verket fann ett ansikte.

Frågan är alltså, var det kanske bättre för? Det vill säga innan Google påverkade vem som sökte vilket jobb och innan människor riskerade att bli digitalt förolämpade på grund av sin hudton. Låt oss blicka tillbaka.

Den första utvecklingen av kameror gjordes av vita män. Det mest frekvent förekommande motivet var andra ljushyade män och kvinnor. När kameran kommersialiserades och färgfilmen uppfanns var det fortfarande framför allt en ljushyad publik som produkten utvecklades för. Det här gjorde att kameran effektiviserades för att porträttera ljushyade ansikten på bästa sätt. Som följd av detta blev porträtteringen av mörkhyade ansikten lidande. Speciellt när de porträtterades i samma fotografi som någon med ljusare hudton.

På senare år har det fastställts att kvinnliga bilister löper större risk än vad manliga bilister gör att få så kallade whiplashskador vid kollision bakifrån. Bertil Jonsson vid Umeå Universitet har skrivit en avhandling där han argumenterar för att detta kan härledas till att krockdockor som används vid kollisionstester är framtagna för att efterlikna män snarare än kvinnor.

Jag skulle därför vilja argumentera för att det inte var bättre förr. Diskriminerande teknik är dessvärre inget nytt. Det som däremot kan tänkas vara nytt är genomslagskraften som den här typen av diskriminerande teknik får i medier. Rasistiska och sexistiska algoritmer tycks skapa mer virala rubriker än vad traditionell teknik av samma natur gör.

Efter att studien som placerade bland andra IBM i blåsväder publicerades, bemötte IBM detta snabbt med förtydliganden om hur man jobbat och jobbade på att åtgärda problemet. IBM Research har även annonserat ett initativ som explicit syftar till att minska partiskhet i AI-lösningar. Så medan det kan konstateras att Östersjöns välmående var bättre förr skulle jag vilja påstå att utsikten för icke-diskriminerande teknik faktiskt var sämre. Uppmärksamheten som dessa frågor nu genererar i media tvingar företag att snabbt åtgärda diskriminerande teknik. Vad jag vet så har kameror år 2018 fortfarande vissa utmaningar kvar när det gäller att porträttera människor med olika hudfärg på samma foto och kvinnor löper fortfarande en större risk att få whiplashskador i trafiken. Så tack AI för att du blåser liv i en diskussion vi borde ha haft för årtionden sedan.

//Therése

Data science-konsult

More AI & Watson stories

Vasaloppet + IBM = stärkt varumärke, engagemang och upplevelse i och av loppen

Vasaloppet är idag världens äldsta, längsta och största skidtävling. Vad som började med ett skidlopp år 1922 har idag utvecklats till 16 olika lopp  – för längdskidåkare, cyklister och löpare. Totalt drar alla Vasaloppen närmare 100 000 deltagare per år. Alla tävlar längs samma historiska sträcka, de klassiska 90 kilometrarna mellan Sälen och Mora. Expansionen […]

Läs mer

När IT-jättarna känner dig bättre än du känner dig själv

Jag sitter på en flygplats på väg hem från en utbildning i Berlin och tänker på hur skönt det ska bli att komma tillbaka till Sverige där vi kan använda kontokort överallt. Jag tänker att tyskarna lider av en överdriven ”storebror ser dig”-rädsla som begränsar dem i vardagslivet. Det måste vara denna rädsla som förhindrar […]

Läs mer

Soffpotatis? Bara en av tre kopplar beslut till dataanalys

Har du som jag någon gång haft ett nyårslöfte att börja träna och komma i form? Du går ut hårt och köper ett gymkort. Kanske blir det här året då du faktiskt kommer att träna på gymmet tre gånger i veckan. Du börjar snabbt känna resultat, du blir starkare och kanske också lite piggare. Med […]

Läs mer