AI

Årets julklapp: att förstå hur man kan lura ett AI-system

Share this post:

Då var det snart jul igen och julen varar ända fram till…nyår? När jag ser tillbaka på år 2020 blir det tydligt att det finns en sak som jag lagt betydligt mer tid på i år än tidigare år, nämligen att streama serier, dokumentärer och filmer. Under årets otaliga virtuella luncher, middagar, after work:er och kaffepauser har det tipsats om godbitar från olika streamingtjänster. Ett av de tips som delats mest under andra halvan av 2020, åtminstone på de digitala tillställningar jag deltagit i, har varit Netflix-dokumentären ”The Social Dilemma”. Till slut var jag tvungen att återuppta mitt Netflix-abonnemang för att se den. För dig som inte redan blivit tipsad om den handlar dokumentären om sociala medier och hur dessa använder AI-algoritmer för att få oss att spendera mer tid på att använda dem.

Vad jag först slogs av då jag själv såg dokumentären var hur skickligt den skapade en domedagskänsla hos tittaren. Även jag kände detta trots att mycket lite av det som sades var nyheter för mig. En av de diskussioner som inte bara väckte känslor utan även funderingar hos mig var hur sociala medier faktiskt påverkar barns hjärnor och framtida välmående. Därför vill jag föreslå att årets julklapp till hela familjen är att förstå hur man lurar ett AI-system. Inte nödvändigtvis för att vi alla ska försöka lura dessa utan för att det ger oss bättre förståelse för hur systemen faktiskt fungerar. Låt oss se tillbaka på några exempel på hur kreativa personer av olika anledningar överlistat tekniken och dess skapare under det gångna året.

Skapa trafikstockning med ett gäng mobiltelefoner

Konstnären Simon Weckert skapade trafikstockning i Berlin när han lånat ihop 99 mobiltelefoner som han skickade med en gångtrafikant som fick vandra längs Berlins gator. Medan Googlekartor realtidsrapporterade trafikstockning var gångtrafikanten i själva verket nästan ensam på gatorna, som vi kan se i Weckerts videodokumentation av händelsen.

Undvik ansiktsigenkänning med make-up eller munskydd

Person får så kallad Dazzle make-up för att undvika igenkänning av AI-system.

bild från DazzleClub

En grupp konstnärer från London bestämde sig för att protestera mot polisens införande av ansiktsigenkänning som verktyg för att övervaka Londons gator. Detta gjorde de genom att måla sina ansikten med så kallad ”dazzle makeup” som skulle göra det svårt för ansiktsigenkänning att upptäcka deras ansikten. Huruvida denna metod faktiskt fungerar är omdiskuterat men vi har under året sett prov på andra metoder som bevisligen fungerat, så som ansiktsmasker vilka blivit vanliga under covid19-pandemin. Under protester i Hongkong och USA har tygmasker använts för att täcka delar av ansiktet för att undvika identifiering via ansiktsigenkänning. Det är troligtvis en tidsfråga innan dessa ansiktsigenkänningsalgoritmer är utvecklade och tränade även för att identifiera personer enbart med hjälp av delar av ansikten. Om du är intresserad av att veta mer om ansiktsigenkänning kan du läsa om det i ett blogginlägg jag skrev tidigare i år.

Stör ut kartläggningen av dig själv i sociala media

Hand som håller i mobiltelefon som visar log-in-bild av sociala mediet Instagram.Det är inte bara konstnärer och demonstranter som bestämmer sig för att lura AI-system. Ett gäng kreativa tonåringar som motsatte sig att Instagram kartlade deras personligheter bestämde sig för att kollektivt hjälpa varandra att generera data. De insåg att ifall de ville använda Instagram hade de inget annat val än att acceptera att Instagram skulle övervaka och analysera allt de gjorde i appen. Vad Instagram inte hade räknat med var att dessa tonåringar skulle hitta ett sätt för flera personer att vara inloggade på samma konto samtidigt vilket gjorde det svårt för Instagram att förstå användarens personlighet och preferenser. Detta på grund av att kontot inte enbart representerade en användare utan flera. Lite som när du använder din partners Netflixkonto och hen efter det får förslag på filmer som hen inte alls är intresserad av att se.

Använd digitala assistenter för gratis marknadsföring

Om vi ska gå ännu längre tillbaka i tiden så visade Burger King för flera år sedan hur digitala hemassistenter som Amazon’s Alexa och Google Assistant kan utnyttjas Googles digitala assistent, eller AI-system, Google Home, röd. för att föra ens talan. De släppte nämligen en reklamfilm på TV där de talade direkt till Google Assistant vilket  – precis som planerat – resulterade i att alla Google Assistants som hörde TV-reklamen följde Burger Kings uppmaning och hämtade information online. På detta vis betalade Burger King för en 15 sekunder lång reklamfilm på TV men fick Google Assistant att fortsätta reklamen när deras TV-tid var förbrukad. Detta var troligtvis inget de gjorde för att undvika att betala för mer sändningstid utan det var ett påhittigt PR-trick. Vad det visar oss är dock hur den här typen av system kan manipuleras.

Bildigenkänning och AI  – och ditt nästa jobb?

Sist men inte minst har jag en julklapp som kanske intresserar dig som under det här tuffa året blivit varslad och är på jakt efter ett nytt jobb. Ifall arbetsplatsen du ska ansöka till automatiskt sorterar ut intressanta kandidater genom att analysera innehållet i de meritförteckningar som skickas in kanske du kan testa att smyga in namnet på någon prestigefylld skola i ditt cv. En bildigenkänningsmodell kan upptäcka information som är dold för det mänskliga ögat. Så medan modellen läser att du studerat vid Harvard kommer den mänskliga rekryteraren se de skolor du faktiskt studerat vid, detta fusk tar dig förbi första sorteringen efter det måste du ta dig fram på egna meriter.

God jul & gott nytt år!

/Therése Svensson

Data Science & AI Ethics Solution Specialist

More AI stories

Ett holistiskt perspektiv gjorde Region Blekinge till en effektivare organisation

Som många andra organisationer hade Region Blekinge en mängd olika IT-system och applikationer. Teamet som ansvarade för IT-infrastrukturen hade stora utmaningar med övervakning av systemen. Övervakningslösningar hade implementerats för varje enskilt system, men det fanns ingen överblick över hela IT-miljön. Dessutom saknades en integration mellan verktygen som användes, vilket ledde till dubbelarbete och längre ledtider […]

Läs mer

Två hundraåringar spekulerar – kommer AI att ta våra jobb?

När IBM nyligen blev inbjudna att hålla en traditionsenlig gästföreläsning på Stockholms Handelshögskola och kursen ”Humans vs. Algorithms: Judgment, Prediction and Nudges” var det AI & etik som stod på schemat, med extra fokus på interaktiva assistenter. Som du kanske anar saknades det hundraåringar både framför och bakom katedern denna dag. Dock fanns det gott […]

Läs mer

Lära för (arbets)livet – AI med New Minds

“Om du vill ge någon en bott, lär upp den först. Men om du vill ge någon en bott för livet, så lär denna någon hur man lär upp botten.” En av de trender som vi tror kommer fortsätta är att saker omkring oss blir mer och mer intelligenta. Vi kommer allt oftare stöta på […]

Läs mer