Vi måste ställa högre krav på människorna inuti maskineriet

”The Social Dilemma” är en sevärd dokumentär där skaparna påvisar de skadliga effekterna av Silicon Valley’s guldgruvor. Vi får ta del av en familjeberättelse där konsekvenserna av invasiva algoritmer dramatiseras genom vardagliga exempel, och fiktionen paras med smärtsamt verklig fakta där vi lär om de sociala nätverkens psykologiska såväl som demokratiska nedsidor från framstående forskare.

Och så har vi branschfolket. Före detta höga chefer på de sociala nätverken sitter ned med kamerateam och berättar om hur de lämnat industrin med en stark känsla av att de bolag de varit del av att bygga gör världen till en sämre plats. Upplägget är enkelt. Äntligen får dessa karriärister tala ut. 

Tim Kendall, före detta chef för intäktsgenerering på Facebook och senare chef på Pinterest, säger att han tror att man var naiva gällande baksidan av myntet, nedsidan till all den potential de identifierat. Jeff Seiberg, serieentreprenör som sålt bolag till Google, Twitter och Netflix, berättar med emfas att han genuint inte tror att någon av de – med vilka han byggde delar av ett av världens största sociala nätverk – önskade några av de negativa konsekvenser plattformen nu skapat. Deras kommentarer ackompanjeras av hjältemodig musik. 

Varför är det så att dessa chefer måste lämna systemet för att reflektera över dess risker? Avskriver vi inte deras förmåga för reflektion genom att säga att ”tekniken utvecklades för fort”? Missförstå mig rätt. Det är lovvärt att dessa individer reflekterar över tjänsterna de byggt – problemet är att skadan redan är skedd. 

”Varför är det så att dessa chefer måste lämna systemet för att reflektera över dess risker?”

Att förstå både upp- och nedsidor är en grundläggande del av att skapa och driva affär. Organisationer, och inte minst teknikbolag, har ett ansvar att tillgodogöra sig insikter om potentiella tillkortakommanden eller stundande sociala dilemman. Detta ansvar har funnits även tidigare, men de som inte axlar det i dag måste betraktas som medvetet okunniga.  

Silicon Valleys utmaningar ligger inte enbart i deras användande av ny teknik, men om vi tillåter oss själva att fokusera på just tekniken dominerar en specifik typ av verktyg i den globala debatten. Artificiell Intelligens (AI) tar allt större utrymme i näringslivet såväl som i våra offentliga verksamheter, och de dilemman teknologierna för med sig är många. 

I min egen roll som praktiker (Schibsted) och forskare (KTH) inom AI i media ser jag både stora möjligheter och påtagliga risker. Med algoritmiska produkter och tjänster följer risken att förstärka eller cementera fördomar, med automatisering kommer oro för att förlora jobbet. I princip varje spännande möjlighet har en associerad nedsida som vi måste hitta sätt att hantera. 

Detta är stora frågor, men som så mycket annat handlar det om att komma igång och inte vänta på att hitta de perfekta svaren. Jag har tre grundläggande råd för att främja ”teknik-reflektion”:

1. Rekrytera människor med blandade bakgrunder. Säkerställ att olika typer av tankar finns representerade i era team och facilitera för kunskapsutbyte mellan avdelningar 

2. Kartlägg just era dilemman och agera efter insikterna. Berika research kring potential med förståelse för dilemman associerade med att nå den. Våga ta till er av insikterna. 

3. Diskutera era produkter/tjänster löpande. En kartläggning håller inte för evigt. Se i stället till att er organisation löpande diskuterar frågor kring er teknikutveckling/användning och itererar produkt/tjänsteutvecklingen givet nya insikter. 

Med lösningsorienterade organisationer som uppmanar till reflektion som leder till reell förbättring kan vi bygga produkter och tjänster som berikar människors liv. Låt oss inte upprepa Silicon Valleys misstag och spara kritiken tills det är för sent.

Agnes Stenbom

Responsible Data & AI Specialist, Schibsted

Industridoktorand, KTH Kungliga Tekniska Högskolan