AI

Årets julklapp: att förstå hur man kan lura ett AI-system

Share this post:

Då var det snart jul igen och julen varar ända fram till…nyår? När jag ser tillbaka på år 2020 blir det tydligt att det finns en sak som jag lagt betydligt mer tid på i år än tidigare år, nämligen att streama serier, dokumentärer och filmer. Under årets otaliga virtuella luncher, middagar, after work:er och kaffepauser har det tipsats om godbitar från olika streamingtjänster. Ett av de tips som delats mest under andra halvan av 2020, åtminstone på de digitala tillställningar jag deltagit i, har varit Netflix-dokumentären ”The Social Dilemma”. Till slut var jag tvungen att återuppta mitt Netflix-abonnemang för att se den. För dig som inte redan blivit tipsad om den handlar dokumentären om sociala medier och hur dessa använder AI-algoritmer för att få oss att spendera mer tid på att använda dem.

Vad jag först slogs av då jag själv såg dokumentären var hur skickligt den skapade en domedagskänsla hos tittaren. Även jag kände detta trots att mycket lite av det som sades var nyheter för mig. En av de diskussioner som inte bara väckte känslor utan även funderingar hos mig var hur sociala medier faktiskt påverkar barns hjärnor och framtida välmående. Därför vill jag föreslå att årets julklapp till hela familjen är att förstå hur man lurar ett AI-system. Inte nödvändigtvis för att vi alla ska försöka lura dessa utan för att det ger oss bättre förståelse för hur systemen faktiskt fungerar. Låt oss se tillbaka på några exempel på hur kreativa personer av olika anledningar överlistat tekniken och dess skapare under det gångna året.

Skapa trafikstockning med ett gäng mobiltelefoner

Konstnären Simon Weckert skapade trafikstockning i Berlin när han lånat ihop 99 mobiltelefoner som han skickade med en gångtrafikant som fick vandra längs Berlins gator. Medan Googlekartor realtidsrapporterade trafikstockning var gångtrafikanten i själva verket nästan ensam på gatorna, som vi kan se i Weckerts videodokumentation av händelsen.

Undvik ansiktsigenkänning med make-up eller munskydd

Person får så kallad Dazzle make-up för att undvika igenkänning av AI-system.

bild från DazzleClub

En grupp konstnärer från London bestämde sig för att protestera mot polisens införande av ansiktsigenkänning som verktyg för att övervaka Londons gator. Detta gjorde de genom att måla sina ansikten med så kallad ”dazzle makeup” som skulle göra det svårt för ansiktsigenkänning att upptäcka deras ansikten. Huruvida denna metod faktiskt fungerar är omdiskuterat men vi har under året sett prov på andra metoder som bevisligen fungerat, så som ansiktsmasker vilka blivit vanliga under covid19-pandemin. Under protester i Hongkong och USA har tygmasker använts för att täcka delar av ansiktet för att undvika identifiering via ansiktsigenkänning. Det är troligtvis en tidsfråga innan dessa ansiktsigenkänningsalgoritmer är utvecklade och tränade även för att identifiera personer enbart med hjälp av delar av ansikten. Om du är intresserad av att veta mer om ansiktsigenkänning kan du läsa om det i ett blogginlägg jag skrev tidigare i år.

Stör ut kartläggningen av dig själv i sociala media

Hand som håller i mobiltelefon som visar log-in-bild av sociala mediet Instagram.Det är inte bara konstnärer och demonstranter som bestämmer sig för att lura AI-system. Ett gäng kreativa tonåringar som motsatte sig att Instagram kartlade deras personligheter bestämde sig för att kollektivt hjälpa varandra att generera data. De insåg att ifall de ville använda Instagram hade de inget annat val än att acceptera att Instagram skulle övervaka och analysera allt de gjorde i appen. Vad Instagram inte hade räknat med var att dessa tonåringar skulle hitta ett sätt för flera personer att vara inloggade på samma konto samtidigt vilket gjorde det svårt för Instagram att förstå användarens personlighet och preferenser. Detta på grund av att kontot inte enbart representerade en användare utan flera. Lite som när du använder din partners Netflixkonto och hen efter det får förslag på filmer som hen inte alls är intresserad av att se.

Använd digitala assistenter för gratis marknadsföring

Om vi ska gå ännu längre tillbaka i tiden så visade Burger King för flera år sedan hur digitala hemassistenter som Amazon’s Alexa och Google Assistant kan utnyttjas Googles digitala assistent, eller AI-system, Google Home, röd. för att föra ens talan. De släppte nämligen en reklamfilm på TV där de talade direkt till Google Assistant vilket  – precis som planerat – resulterade i att alla Google Assistants som hörde TV-reklamen följde Burger Kings uppmaning och hämtade information online. På detta vis betalade Burger King för en 15 sekunder lång reklamfilm på TV men fick Google Assistant att fortsätta reklamen när deras TV-tid var förbrukad. Detta var troligtvis inget de gjorde för att undvika att betala för mer sändningstid utan det var ett påhittigt PR-trick. Vad det visar oss är dock hur den här typen av system kan manipuleras.

Bildigenkänning och AI  – och ditt nästa jobb?

Sist men inte minst har jag en julklapp som kanske intresserar dig som under det här tuffa året blivit varslad och är på jakt efter ett nytt jobb. Ifall arbetsplatsen du ska ansöka till automatiskt sorterar ut intressanta kandidater genom att analysera innehållet i de meritförteckningar som skickas in kanske du kan testa att smyga in namnet på någon prestigefylld skola i ditt cv. En bildigenkänningsmodell kan upptäcka information som är dold för det mänskliga ögat. Så medan modellen läser att du studerat vid Harvard kommer den mänskliga rekryteraren se de skolor du faktiskt studerat vid, detta fusk tar dig förbi första sorteringen efter det måste du ta dig fram på egna meriter.

God jul & gott nytt år!

/Therése Svensson

Data Science & AI Ethics Solution Specialist

More AI stories

AI-modeller som säkrar AI-modeller

Att IBM för tredje året i rad utsetts till ett av världens mest etiska bolag av Ethisphere grundar sig bland annat i vårt arbete med att förespråka och möjliggöra implementation av etisk och tillförlitlig AI. Men vad menas då med begreppet ”etisk AI”? Vi på IBM menar förklarbarhet, rättvisa, teknisk robusthet, transparens och integritet. Det […]

Läs mer

Förvandlar du dina kunddialoger till ovärderliga insikter?

Digitaliseringen har lett till att vi idag har fler kommunikationsvägar än någonsin tidigare. Trots det föredrar många att använda sig av traditionella kanaler, som telefonsamtal, när de vill komma i kontakt med kundservice. Men en mängd företag anser att det blivit för kostsamt att erbjuda denna typ av tjänster och ser inte potentialen i datainsamlingen. […]

Läs mer

Konsten att förkroppsliga Articifiell Intelligens

Being unthinkable is like part of nature och Being unthinkable is much like a game of chess eller Being unthinkable is great for a state of mind. Kärt barn har många namn, och den robotiska varelsen som intagit sin plats på IBM:s huvudkontor i Kista i Stockholm har oändligt många. Konstverket Being unthinkable… har en […]

Läs mer