AI

Det var inte bättre förr! AI blåser liv i diskussionen vi borde ha haft för årtionden sedan

Share this post:

Sommaren 2018, vilken toppensommar! Bästa vädret på över 250 år. Dessvärre funderar nu många av oss på om detta inte var det ultimata beviset på att vi kollektivt måste ändra våra levnadsvanor snarast. När det känns för bra för att vara sant är oftast det. Jag hörde en kvinna på bussen berätta om sin sommar för en väninna. Hon hade varit på Åland. Hennes oro var uppenbar. Algblomningen gjorde att barnen inte hade kunnat bada. Under hennes barndoms somrar var det annorlunda. Vattnet i Östersjön var klart och friskt. Orden som hängde i luften men aldrig uttalades var;

”Nog var det bättre förr”

Det är just de orden vi innerligt hoppas att vi aldrig ska behöva uttala när vi talar om den digitala utvecklingen generellt och om artificiell intelligens specifikt. Men nog har vi alla stött på dem; tidningsartiklarna och blogginläggen som fastslår att AI diskriminerar. ”Google-algoritm diskriminerar med avseende på kön” medan ”Microsoft- och IBM-algoritmer diskriminerar med avseende på hudfärg”.

I mediastormen kring Googles annonssystem avslöjades att det är mer troligt att du får förslag på jobbannonser för välbetalda jobb om du är man än om du är kvinna. I den studie som gjordes skapades fiktiva användare som hade exakt samma browserhistorik och surfbeteende men olika kön. Annonserna som visades för dessa användare jämfördes.

Resultatet blev bekymrande nog att de manliga användarna fick se fler jobbannonser för välbetalda jobb än vad de kvinnliga användarna fick se.

Såväl Microsoft som IBM hamnade i blåsväder när en annan studie visade att deras respektive ansiktsigenkänningsapplikationer hade en betydligt lägre träffsäkerhet på mörkhyade personer, i synnerhet mörkhyade kvinnor. Detta inträffade efter att en helt annan bildigenkänningsapplikation misslyckades till den grad med ansiktsigenkänning av mörkhyade ansikten att den trodde sig ha hittat ett djur i bilden där den i själva verket fann ett ansikte.

Frågan är alltså, var det kanske bättre för? Det vill säga innan Google påverkade vem som sökte vilket jobb och innan människor riskerade att bli digitalt förolämpade på grund av sin hudton. Låt oss blicka tillbaka.

Den första utvecklingen av kameror gjordes av vita män. Det mest frekvent förekommande motivet var andra ljushyade män och kvinnor. När kameran kommersialiserades och färgfilmen uppfanns var det fortfarande framför allt en ljushyad publik som produkten utvecklades för. Det här gjorde att kameran effektiviserades för att porträttera ljushyade ansikten på bästa sätt. Som följd av detta blev porträtteringen av mörkhyade ansikten lidande. Speciellt när de porträtterades i samma fotografi som någon med ljusare hudton.

På senare år har det fastställts att kvinnliga bilister löper större risk än vad manliga bilister gör att få så kallade whiplashskador vid kollision bakifrån. Bertil Jonsson vid Umeå Universitet har skrivit en avhandling där han argumenterar för att detta kan härledas till att krockdockor som används vid kollisionstester är framtagna för att efterlikna män snarare än kvinnor.

Jag skulle därför vilja argumentera för att det inte var bättre förr. Diskriminerande teknik är dessvärre inget nytt. Det som däremot kan tänkas vara nytt är genomslagskraften som den här typen av diskriminerande teknik får i medier. Rasistiska och sexistiska algoritmer tycks skapa mer virala rubriker än vad traditionell teknik av samma natur gör.

Efter att studien som placerade bland andra IBM i blåsväder publicerades, bemötte IBM detta snabbt med förtydliganden om hur man jobbat och jobbade på att åtgärda problemet. IBM Research har även annonserat ett initativ som explicit syftar till att minska partiskhet i AI-lösningar. Så medan det kan konstateras att Östersjöns välmående var bättre förr skulle jag vilja påstå att utsikten för icke-diskriminerande teknik faktiskt var sämre. Uppmärksamheten som dessa frågor nu genererar i media tvingar företag att snabbt åtgärda diskriminerande teknik. Vad jag vet så har kameror år 2018 fortfarande vissa utmaningar kvar när det gäller att porträttera människor med olika hudfärg på samma foto och kvinnor löper fortfarande en större risk att få whiplashskador i trafiken. Så tack AI för att du blåser liv i en diskussion vi borde ha haft för årtionden sedan.

//Therése

Data Science & AI Ethics Solution Specialist

More AI stories

AI-modeller som säkrar AI-modeller

Att IBM för tredje året i rad utsetts till ett av världens mest etiska bolag av Ethisphere grundar sig bland annat i vårt arbete med att förespråka och möjliggöra implementation av etisk och tillförlitlig AI. Men vad menas då med begreppet ”etisk AI”? Vi på IBM menar förklarbarhet, rättvisa, teknisk robusthet, transparens och integritet. Det […]

Läs mer

Förvandlar du dina kunddialoger till ovärderliga insikter?

Digitaliseringen har lett till att vi idag har fler kommunikationsvägar än någonsin tidigare. Trots det föredrar många att använda sig av traditionella kanaler, som telefonsamtal, när de vill komma i kontakt med kundservice. Men en mängd företag anser att det blivit för kostsamt att erbjuda denna typ av tjänster och ser inte potentialen i datainsamlingen. […]

Läs mer

Konsten att förkroppsliga Articifiell Intelligens

Being unthinkable is like part of nature och Being unthinkable is much like a game of chess eller Being unthinkable is great for a state of mind. Kärt barn har många namn, och den robotiska varelsen som intagit sin plats på IBM:s huvudkontor i Kista i Stockholm har oändligt många. Konstverket Being unthinkable… har en […]

Läs mer