AI-experten: ”Någon måste ta ansvar för de digitala medarbetarna”

Det väcker frågor som många organisationer fortfarande saknar tydliga svar på. Vem bestämmer vilket mandat en AI-agent ska få? Vem ansvarar när den gör fel? Hur ska kvaliteten följas upp när tusentals beslut fattas automatiskt och är det verkligen CIO:n som ska bära ansvaret för detta?

Techtidningen ställde några frågor till Joel Sunnehall om varför han anser att svenska företag måste börja bygga organisationen för AI-arbetskraft redan nu.

Vem vänder du dig till med din nya bok och vad innehåller den?

– Jag vänder mig till vd:ar och seniora ledare i nordiska storföretag som vill få AI-satsningarna att förändra verksamheten, men känner hur trögt det går – och till CIO:n, som ofta får äga frågan i praktiken innan någon har bestämt att den ska göra det. Boken hjälper dem att fatta de beslut som följer när AI börjar utföra arbete: vem ansvarar, hur följer vi upp kvaliteten och vilka roller behöver förändras?

– Jag börjar i det som får AI-satsningar att fastna: ansvar som är oklart, arbetssätt som lever kvar och styrning som belönar fel saker. Sedan går jag igenom fem områden som behöver förändras när AI blir en del av arbetskraften: ledning, styrning, arbete, kompetens och förändringsförmåga.

– Boken bygger på undersökningar, intervjuer och operativ erfarenhet från nordiska storföretag. Den innehåller också ett självskattningstest som ledningsgruppen kan använda för att se var den behöver börja.

Vilken är din lägesbild, hur långt framme ligger svenska företag på AI-området?

– Min bild är att svenska företag har kommit längre med att använda AI än med att förändra hur verksamheten arbetar. Vi har en stark digital grund, men digital mognad och AI-mognad är olika saker. Enligt EY:s nordiska undersökning från 2025 är bara 26 procent av nordiska vd:ar aktivt engagerade i att forma strategin för ny teknik som AI, mot 49 procent globalt – var fjärde vd. Samma undersökning visar att 53 procent av företagen har svårt att fördela tydligt ansvar för ny AI-teknik.

– Det jag kallar adoptionsillusionen uppstår när användningen ökar och medarbetarna sparar tid, medan processerna och ansvarsfördelningen förblir desamma. Tänk en medarbetare som skriver ett beslutsunderlag på halva tiden, men sedan får vänta lika länge på samma godkännanden. Nästa steg är att förändra hela arbetsflödet så att tidsvinsten märks även hos kunden och i verksamhetens resultat.

Du menar att AI-agenten ska ses som en ny medarbetare. Vad innebär det konkret för en CIO?

– Tre konkreta saker. För det första behöver varje agent ett tydligt uppdrag och mandat. Jag kallar det ett agentkontrakt – det fungerar som den digitala medarbetarens anställningsavtal. Där står vad som aktiverar agenten, vad den får göra självständigt, vilka system den får läsa och skriva i och när den måste lämna över till en människa. Det ska också finnas en namngiven ansvarig. Kontraktet ska vara klart innan agenten får agera i verksamhetens system.

– För det andra behöver varje agent kunna identifieras och dess handlingar följas. Det måste gå att rekonstruera vilken agent som gjorde vad, i vilket system och på vilket mandat.

– För det tredje: en chef kan granska hundra beslut, men ingen granskar tiotusen. CIO:n behöver därför säkerställa att fel upptäcks och att agenten går att stoppa, även när ingen människa granskar varje beslut. Låt varje agent klättra en förtroendetrappa: först observera, sedan föreslå, sedan utföra inom snäva gränser. Bredare autonomi får den förtjäna genom dokumenterad kvalitet.

Vem ska äga de AI-agenter som används i företaget? Är det CIO, HR eller krävs det en ny funktion?

– CIO ansvarar för plattformen och den tekniska driften. Processägaren ansvarar för agentens uppdrag och resultat. HR behöver vara med när arbetsuppgifter, roller och kompetenskrav förändras. Varje agent behöver en namngiven ansvarig hos den del av verksamheten vars arbete den utför.

– Vd och ledningsgrupp behöver hålla ihop förändringen och fatta besluten som går över funktionsgränserna. I ett större förändringsarbete rekommenderar jag en transformationsledare nära vd och ett gemensamt team från it och verksamheten som bygger och förbättrar agenterna. Det jag kallar agentfabriken ska göra agent nummer tio snabbare att bygga än agent nummer ett. Så svaret är: varken CIO eller HR äger agenten – verksamheten gör det, med it som plattform och vd som ägare av förändringen.

Vad händer när en AI-agent fattar ett dåligt beslut, vem bär ansvaret?

– Den frågan går inte att besvara i efterhand – ansvaret måste designas i förväg. Varje agent behöver en namngiven ansvarig för uppdrag, kontroll och uppföljning. Det juridiska ansvaret vid en skada måste bedömas utifrån det konkreta fallet. När ett beslut blir fel behöver företaget kunna stoppa eller begränsa agenten, rätta följderna och följa vad som hände. Vem som gör vad ska vara bestämt innan agenten tas i drift.

– I boken använder jag en beslutsmatris som väger osäkerheten i AI:s svar mot konsekvensen om det blir fel. För beslut med stora konsekvenser för människor, till exempel rekrytering och större kreditbeslut, rekommenderar jag att AI tar fram underlaget och en människa fattar beslutet. Börja med att kartlägga vilka beslut era AI-system redan fattar och vem som kan ingripa. I boken berättar jag om en nordisk it-chef som gjorde just det och upptäckte att systemen redan fattade över två tusen operativa beslut om dagen.

Har du förståelse för de som vill avvakta med att införa agentisk AI och vilka risker innebär det?

– Stor förståelse. Det kan vara klokt att vänta med en viss tillämpning, särskilt om konsekvenserna av ett fel är stora. Men företaget behöver samtidigt bygga erfarenhet. Jag kallar det försiktighetsparadoxen när varje enskilt uppskov går att försvara, men de tillsammans gör att organisationen aldrig kommer vidare.

– Organisationen behöver tid för att lära sig hur arbetet ska fördelas, vilka fel som uppstår och vilken kontroll som fungerar. Skillnaden mot tidigare teknikskiften är att AI inte är ett system som mognar och köps in, utan en ny typ av arbetskraft som organisationen måste förändras kring – och det arbetet tar tid oavsett när det börjar. Risken med att vänta med allt är att konkurrenterna hinner bygga den erfarenheten och omsätta den i bättre arbetssätt.

– Börja med en avgränsad uppgift där fel går att upptäcka och rätta. Följ både kvaliteten och tiden som går åt till kontroll, och ge agenten större mandat när resultaten motiverar det. Det är kontrollerat lärande.

Har du något riktigt lyckat exempel på ett företag som har lyckats bra med AI-agenter?

– Ett exempel med redovisade resultat är DBS i Singapore. I årsredovisningen för 2025 uppger banken att satsningarna på dataanalys och AI genererade ungefär en miljard singaporedollar i ekonomiskt värde under året. Bakom den siffran ligger många avgränsade tillämpningar.

– Det jag tycker är intressant är kombinationen: ett stort, redovisat resultat på koncernnivå, byggt av många små och mätbara tillämpningar. För en CIO är det en bra utgångspunkt. Välj ett avgränsat arbete, följ vad som händer med både tidsåtgång och kvalitet och använd resultaten för att avgöra nästa steg. I sverige finns ännu få bra exempel men det pågår mycket arbete inom agentic engineering.