Inga produkter i varukorgen.
Så jobbar Barncancerfonden med AI-agenter: ”Är egentligen inte svårt”
AI AI-agenter är årets hetaste techtrend – men för Barncancerfonden handlar det inte om hype. Där har man redan tagit fram egna agenter som gör riktiga jobb i organisationen. Vi har pratat med Fredrik Annmo om utrullningen, lärdomarna och framtidsplaner.
Fredrik Anmmo, foto: Jonas Gratzer.
När Barncancerfonden började arbeta med AI-agenter var det inte fråga om ett klassiskt it-projekt. Det handlade inte om ett nytt system som skulle rullas ut enligt en fast plan utan om att tänka om helt och hållet.
– Jag tror att ett av de vanligaste misstagen man gör när man börjar med AI, är att man tänker på det som en klassisk systemimplementation. Det är fel angreppssätt. Istället måste man tänka: vilket jobb skulle jag ge en människa att göra? Vad är agentens arbetsbeskrivning? säger Fredrik Annmo är produktägare för CRM på Barncancerfonden.
Han började själv att experimentera med AI-verktyg från Salesforce – först Copilot Studio och senare Agent Builder – under sommaren 2024. Efter en utbildning och certifiering på hösten föll bitarna på plats.
– När jag började kombinera min domänkunskap med AI-kompetensen kände jag att poletten trillade ner.
I dag har Barncancerfonden tre AI-agenter i produktion, och fler är på gång. Organisationen hanterar varje år miljontals gåvor från privatpersoner och företag – men resurserna för att göra kvalitativa, etiska bedömningar av varje företagsdonation har varit begränsade. Därför blev det första usecaset ganska självklart.
– Vi har länge haft etiska riktlinjer, men ingen möjlighet att manuellt kontrollera varje företag som skänker pengar. Det är tusentals företag. Det gick helt enkelt inte. Men med en AI-agent kunde vi bygga ett system som gör en grundläggande kontroll automatiskt.
Från idé till färdig pilot tog det bara tre dagar.
– Det var ett tydligt case, ett verkligt behov och något vi funderat på i flera år. Det gjorde det lätt att sätta igång. Vi använde Agent Builder till att skapa en process där agenterna gör kontroller baserat på våra riktlinjer.
Vad var den viktigaste lärdomen från piloten?
– Att det bästa egentligen bara är att börja bygga. Det är klart att det går att läsa sig till hur modellerna teoretiskt fungerar men när du faktiskt sitter och ser hur modellen reagerar på dina konfigurationer blir det mycket tydligare hur man ska göra, i alla fall för mig.
Just nu har Barncancerfonden tre agenter i drift, utöver den som gör etiska bedömningar, så har de en agent som gör merförsäljning till folk som kontaktar organisationens chattbot och en som går igenom testamenten där folk skänkt pengar till Barncancerfonden. Men ännu fler agenter finns i pipe:n.
– Jag har byggt fler agenter men de är inte i produktion ännu. Nu skulle jag säga att tekniken inte längre är ett hinder utan snarare att hitta usecase med snabb affärsnytta
Fredrik Annmo tycker man ska betrakta AI-agenterna som kollegor.
– Jag brukar säga att man inte sparkar en nyanställd för att de gör ett fel. Istället tränar man dem. Det är precis så man måste tänka med AI-agenter. De behöver lära sig, och det behöver finnas en förståelse för vad de är bra på och var de har begränsningar.
I alla AI-projekt är datakvalitén avgörande. Barncancerfonden har sedan länge en datamedveten kultur och det har enligt Fredrik Annmo banat väg för att jobba med både strukturerad och ostrukturerad data på ett framgångsrikt sätt.
– Vår data har varit i hyfsat gott skick. Men det var först när jag började fundera på hur ostrukturerad data faktiskt måste se ut för att vara läsbar för en agent, inte en människa, som det verkligen lossnade.
Det har lett till att organisationen nu parallellt funderar på att utveckla knowledge-bibliotek – ett för människor och ett anpassat för AI.
– Artiklar skrivna för människor kan vara alldeles för långa, eller summera saker på ett sätt som AI:n missförstår. Jag började laborera med hur jag skrev kunskapsartiklar, och till slut blev agenten träffsäker. Det visar att innehållet är lika viktigt som modellen.
Har ni haft problem med hallucinationer?
– Nej, vi har varit väldigt förskonade från det. Min bild är att hallucinationer oftast uppstår när uppgiften blir för komplex. Våra agenter klarar vanliga frågor som ”Jag vill skänka en gåva, hur gör jag?” eller ”Jag vill bli månadsgivare hur gör jag?” galant.
– Enda gången det blir fel är när någon från Salesforce verkligen är ute för att stresstesta agenterna och skriver ”Jag vill skänka en gåva eller förresten jag vill bli månadsgivare eller förresten jag vill bli partner eller nej jag vill sänka mitt månadsbelopp och ändra min mejladress.
Vad händer då?
– Då tappar modellerna det, men det hade en människa också gjort.
Hur tror du agenterna kommer att utvecklas framåt?
– Jag tror att framtiden ligger i multi-agent teams. Istället för att ha en generalist som försöker göra allt, bygger vi ett team med en routing-agent som sorterar ärenden, och ett antal specialistagenter som tar hand om sina områden. Precis som i en vanlig organisation.
Fakta
Expertens tre tips bästa tips för att lyckas med AI-agenter
1. Välj en ”dålig modell”
Det är väldigt frestande att alltid använda sig av den största modellen men jag tycker man ska välja en så ”dålig” (enkel/liten) modell som möjligt för att få ett så litet klimatavtryck som möjligt. Det finns väldigt bra små modeller.
2. Bara gör!
Om du vill ha produktiva agenter om ett år så måste du börja ”anställda” idag. Precis som att du inte ställer en nyanställd inför styrelsen första dagen och förväntar dig att den ska excellera dag ett så kan du inte ha skyhöga krav på din agent direkt. Den behöver få vara ”nyanställd” ett tag för att sedan kunna bli riktigt bra.
3. Gå en utbildning eller ta ett certifikat
Det är på sätt och vis ett nytt sätt att tänka kring teknik, och för mig föll bitarna först på plats när jag började plugga för att ta ett certifikat. Om jag hade gjort om allt hade jag tagit certifieringen tidigare istället för att bara försöka själv i två-tre månader.
Barncancerfonden har inte något AI-center och har heller inte tagit hjälp av externa konsulter. Istället drivs AI-projekten av verksamhetsnära systemägare, som Fredrik Anmmo.
– Det är en kostnadsfråga. Att ta in tre externa konsulter för att bygga ett testagent är inte försvarbart i en ideell organisation. Därför måste det gå att bygga själva. Och det gör det. Jag har en roll på insamlingsavdelningen och äger Salesforce Core. Mina kollegor ansvarar för Marketing Cloud, Snowflake, Microsoft och så vidare. Vi är ett litet team som driver utvecklingen men det är också en fördel, eftersom vi snabbt kan testa och anpassa.
På längre sikt ser man framför sig att AI-agenterna inte bara blir fler – utan också samarbetar över plattformsgränser. Men det kräver mer än teknik – det kräver organisatorisk mognad.
– Jag är helt säker på att vi kommer att ha agenter som jobbar tvärs över plattformar. Men för att det ska bli verklighet krävs att fler delar av organisationen är mogna och redo. Just nu drivs mycket av eldsjälar, och då är det svårt att synka.
Samtidigt är Fredrik Annmos budskap till andra organisationer tydligt: Sätt igång!
– Det här är egentligen inte svårt. Det är klart att det kräver att man kan det. Men när tekniken och förståelsen väl är på plats, då är möjligheterna enorma.
