Servicenow-chefen: ”CIO:n kan inte styra AI-agenterna på egen hand”

När företag nu börjar släppa in agentisk AI i CRM-systemen finns det enligt Daniel Wilks tre saker som måste vara på plats. Den första handlar om data. En AI-agent som förväntas fatta beslut eller genomföra åtgärder behöver kunna se hela den relevanta bilden av kunden.

– Om informationen är fragmenterad mellan CRM, ERP och andra system arbetar agenten utifrån en ofullständig bild, oavsett hur kapabel den underliggande modellen är.

Nästa steg är att definiera själva arbetsflödet. Det räcker inte att bygga ett intelligent lager ovanpå befintliga processer. Företaget måste veta vilka system som ska göra vad, vilka regler som gäller och hur de människor som påverkas av agentens beslut ska arbeta tillsammans med den.

Den tredje frågan är hur långt autonomin ska sträcka sig. Daniel Wilks anser att gränserna måste sättas redan från början. Organisationen behöver kunna se vad agenten gör, vilka data och system den får använda och vid vilka tillfällen en människa måste godkänna nästa steg. Om någon av dessa delar saknas blir följden enligt honom inte bara ökade risker. Även nyttan av tekniken minskar.

– Att hoppa över något av detta begränsar vad agenten faktiskt kan åstadkomma, eftersom den till slut kommer att stöta på en lucka i datan eller processen och helt enkelt stanna upp.

För europeiska företag blir styrningen extra viktig eftersom användningen av AI-agenter också måste förhålla sig till olika regelverk. Daniel Wilks pekar framför allt på EU:s AI-förordning som införs stegvis just nu.

– De flesta CRM-agenter som får tillgång till kunddata och agerar utifrån den kommer att omfattas av regelverket, och beroende på användningsområde kan vissa hamna i kategorin högrisk-AI. Förordningen ställer krav på mänsklig översyn, dokumentation och cybersäkerhetskontroller.

Han framhåller att organisationer inte bör se tidsfrister som ett skäl att vänta med styrningen (reglerna för högrisk-AI träder i kraft i december 2027, reds anm). Att i efterhand försöka bygga in kontrollmekanismer i processer där AI-agenter redan arbetar i stor skala riskerar att bli betydligt svårare.

GDPR är fortfarande en annan central del. Om en AI-agent behandlar personuppgifter måste organisationen bland annat ha rättslig grund, följa principen om dataminimering och kunna visa vem som ansvarar för informationen och varför den behandlas.

I reglerade branscher kan ytterligare krav tillkomma. Wilks nämner finansiella tjänster som ett exempel, där DORA:s krav på operativ motståndskraft blir relevanta när AI-agenten blir en del av den reglerade processen.

– Styrningen måste byggas in i arbetsflödet och inte läggas till i efterhand.

Samtidigt finns det enligt Daniel Wilks redan i dag en rad uppgifter där AI-agenter kan arbeta självständigt utan att en människa behöver godkänna varje steg.

En agent kan exempelvis skapa och prissätta en offert från början till slut utifrån ett samtal eller en mötessammanfattning, så länge den arbetar inom fastställda regler för priser, marginaler och rabatter. Inom kundservice kan en agent klassificera, lösa och avsluta enklare serviceärenden. Inom fältservice kan den boka och boka om tekniker utifrån tillgänglighet, kompetens och geografisk plats.

– I samtliga fall arbetar agenten inom en avgränsad och tydligt definierad process där reglerna är kända i förväg. Det är det som gör autonomt utförande säkert, inte hur avancerad den underliggande modellen är, utan hur tydligt gränserna runt den har satts.

Men det finns också beslut där människan bör finnas kvar. Daniel Wilks drar gränsen framför allt vid situationer där agenten behöver göra undantag från fastställda regler eller där konsekvenserna för kunden kan bli stora.

Bör involvera en människa

Det kan handla om rabatter eller avtalsvillkor utanför normala ramar, större återbetalningar eller förändringar av kontrakt. Även beslut som berör exempelvis bolån, stora investeringar eller andra betydande köp bör enligt honom involvera en människa.

– Den gemensamma nämnaren är inte komplexitet utan konsekvens. När ett felaktigt beslut kan bli kostsamt, oåterkalleligt eller känslomässigt betydelsefullt ska en människa finnas kvar i processen.

Samma princip gäller processer där regleringen uttryckligen kräver mänskligt godkännande, exempelvis vissa försäkringsärenden eller beslut inom offentlig sektor.

Ett vanligt misstag när företag börjar införa agentisk AI i CRM-systemet är enligt Daniel Wilks att de lägger tekniken ovanpå en alltför svag grund. Systemen är fragmenterade, data finns i olika silor och arbetsflödena har inte definierats tillräckligt noggrant. Resultatet kan bli en lösning som ser imponerande ut i en demonstration men som snabbt kör fast i den verkliga verksamheten.

– AI:n kan se imponerande kapabel ut i en demonstration och sedan helt enkelt stanna så fort den stöter på ett system den inte kommer åt eller en process som aldrig har kartlagts.

Börja med ett tydligt avgränsat användningsfall

Ett annat närbesläktat misstag är att börja för stort. I stället för att bygga en generell agent som ska kunna hantera ett stort antal olika processer rekommenderar Daniel Wilks att organisationen börjar med ett konkret och tydligt avgränsat användningsfall.

– Organisationer som lyckas väljer en väldefinierad process, bevisar att den fungerar från början till slut och expanderar därefter, i stället för att försöka automatisera allt på en gång.

När AI-agenter börjar få tillgång till data, system och möjlighet att utföra åtgärder uppstår också frågan om vem som egentligen ska ansvara för dem.

Daniel Wilks menar att CIO-funktionen behöver äga kontrollen på plattformsnivå. Där ingår bland annat att kunna se vad varje agent gör, vilken information den har tillgång till och att kunna ingripa eller återställa förändringar. Men ansvaret kan inte ligga enbart på IT.

– Verksamhetsägaren, exempelvis försäljningschefen, servicechefen eller CRO:n, är den som förstår vad processen faktiskt ska åstadkomma och var mänskligt omdöme är viktigt. De organisationer som vi ser lyckas behandlar detta som ett gemensamt ansvar.

Arbetsfördelningen blir därmed att IT bygger och styr själva kontrollagret, medan verksamheten definierar processen och sätter gränserna för vad agenten ska få göra.

Samtidigt förändras också de mänskliga rollerna. Arbetsuppgifter som tidigare gick ut på att konfigurera offerter, sortera mejl eller boka besök kan i allt högre grad utföras av agenter. Medarbetarens uppgift förskjuts då mot att övervaka, bedöma och ingripa när situationen blir mer komplex.

– Det handlar inte om att arbetet försvinner, utan om att det blir ett annat jobb: mindre tid på rutinuppgifter och mer tid på bedömningar och relationen med kunden.

Daniel Wilks tror inte nödvändigtvis att alla medarbetare bokstavligen kommer att leda en grupp AI-agenter. Men fler kommer att arbeta sida vid sida med dem.

– En del av arbetsuppgiften blir att förstå när man kan lita på agenten och när man behöver ingripa.

För att stödja utvecklingen av agentisk AI har Servicenow byggt in fyra delar i sina CRM-paket. Workflow Data Fabric används för att koppla samman omkring 400 typer av datakällor, bland annat CRM, ERP, datasjöar och äldre system, så att agenterna kan arbeta utifrån en gemensam bild av kunden.

AI Control Tower ska ge organisationen insyn i vad agenterna gör, vad de får komma åt och möjlighet att ingripa eller återställa förändringar. AI Specialists består av färdigbyggda agenter för specifika roller, exempelvis för att skapa och prissätta offerter eller lösa rutinmässiga serviceärenden.

Den fjärde delen är process mining, som används för att identifiera var i verksamhetens processer automatisering faktiskt kan göra nytta.

– Tillsammans är de här funktionerna utvecklade för att låta AI agera inom ett arbetsflöde som är styrt och granskningsbart, inte bara för att lägga till ett konversationellt lager ovanpå en befintlig process, konstaterar Daniel Wilks.