Hur partiska uppfattningar smyger sig in i vår teknologi

Chansen är ganska stor att du just tänkte på en 30-årig vit man. Och det är inte helt ogrundat, eftersom majoriteten av spelutvecklarna – mer eller mindre – passar in på den profilen. Det skapar enformighet inom denna sektor, vilket kan påverka produkterna som utvecklarna arbetar med. Och den påverkan är inte alltid positiv, som det visar sig. Vi nämner några exempel.

År 2010 testade en Microsoft-anställd den nya Kinect för Xbox-systemet. Systemet fungerade bra för hennes man, men mycket sämre för henne och deras barn. Det visade sig att systemet endast testades på män mellan 18 och 35 år. Därför var spelet mindre effektivt på att känna igen rörelser från kvinnor och barn.

Idag arbetar allt fler med system som använder sig av artificiell intelligens. Ett sådant spelssystem är ett relativt harmlöst exempel. Men tänk dig en produkt med större påverkan, såsom ett röst- eller ansiktsigenkänningssystem för säkerhetsändamål. Eller ett system som väljer ut CV:n för en rekryteringsprocess.

Praktiska exempel visar att skapare inte alltid är representativa för användarna. Som resultat har t.ex. röstsystem svårt att förstå högre röster. Det har också dokumenterats att ansiktsigenkänningssystem har svårare att känna igen mörkhyade ansikten. Det beror inte på att systemen är dåligt byggda. Det hänger ihop med att systemen tränats med röster och ansikten från vita män. Dessa är klassiska exempel på partisk artificiell intelligens. Artificiell intelligens kopierar fördomarna från sin skapare. Verkar skaparen vara ganska enformig? Då kan ett sådant system ofta orsaka problem i verkligheten.

Ett annat välkänt exempel kommer från Amazon. Företaget försökte använda AI för CV-urval. Systemet tränades med tidigare inskickade ansökningar, av vilka – som det visade sig i efterhand – majoriteten var från män. Detta lärde systemet att män var “bättre kandidater.” Algoritmen visade också hur den enkelt kopierade fördomar från samhället och visade ensidigheten i rekryteringsprocessen under de senaste åren.

Produktdesigners bör vara en berikning, inte en begränsning. Artificiell intelligens ser input som sanning och tar över skaparnas tunnelvision. Trots att teknikföretagens makt ökar, gäller inte samma sak för mångfalden inom denna gren. Den stora frågan som kvarstår: vill vi att ett sådant system (inklusive skaparen) ska fatta relativt avgörande beslut? Den mest uppenbara lösningen skulle vara att sätta ihop mer mångfaldiga team. Något som Laura Manders, employeneur på TMC, verkligen stöder. Hon har upplevt enformigheten i den tekniska världen under alla faser av sin utbildning och såg få förebilder inom både sin utbildning och medier. För att inte tala om att hon såg flickor som henne själv arbeta med teknik: 'Jag var alltid den enda kvinnan eller en av få under praktikperioderna.' Den enorma enformigheten har avtagit och Laura arbetar nu i ett mer varierat team. “Jag har kollegor i alla åldrar och en bra könsbalans. Det är som ett litet samhälle, och det fungerar.”

Att skapa ett varierat team är inte så enkelt. Därför behöver teknikutvecklare hitta andra sätt att testa sin teknik, såsom representativa testteam. Detta är lättare att uppnå än att ha tekniken utvecklad av en mer mångfaldig grupp människor. Manders nämner ett praktiskt exempel som visar dess positiva effekt: “En stor teknikutvecklare skapade team från alla missgynnade grupper inom företaget. Tänk olika etniciteter, politiska åsikter och sexuella läggningar. Alla dessa grupper testade produkterna för att ta bort eventuella fördomar från produkterna.”

Slutligen: alla har fördomar på någon nivå. Din uppväxt skapar specifika idéer. Men informationen du samlar under ditt liv beror också på var och under vilka omständigheter du växer upp. Alla dessa omedvetna fördomar finns inom oss. Inte nog med det, de har också en viktig funktion. De flesta av våra handlingar sker omedvetet. Och det är dessa omedvetna fördomar som gör att vi kan fatta beslut (snabbare) i vardagen.

Fördomar behöver inte vara ett problem. Vi måste bara inse att vi för in dessa fördomar och idéer i den teknik vi utvecklar. Att lösa diskriminering i algoritmiska system sker dock inte över en natt. Det är en process och tar tid. Precis som att bekämpa diskriminering inom andra delar av samhället. För att förhindra att riktigt allvarliga komplikationer uppstår arbetar en stor grupp AI-forskare med algoritmer som hjälper till att upptäcka (och begränsa) dolda fördomar i träningsdata. Vi får se om detta kommer att ge det resultat vi hoppas på: system som innehåller artificiell intelligens som kan användas av alla!