Customer First: ”Stora säkerhetsrisker om AI införs på fel sätt”

– AI i all ära, men frågan är hur vi tar oss från buzzword till handling. Hur kan vi faktiskt använda AI i kunddialogen och för självbetjäning utan att tumma på säkerheten? Det är där vi märker att vi ligger långt fram jämfört med många konkurrenter.

Det som ofta blir avgörande när företag väljer plattform för sitt kontaktcenter är arkitekturen. Medan många konkurrenter bygger in sina kunder i färdiga lösningar och tvingar upp dem i specifika moln, satsar Customer First på öppenhet.

– Vi kallar det för ”bring your own AI bot”. Det innebär att du kan välja vilken språkmodell (LLM) du vill: OpenAI, Azure, Googles Gemini eller en lokal modell på din egen server. Kunden ska inte begränsas av att vi valt en viss motor, de ska själva kunna bestämma.

För banker, myndigheter och stora industribolag är detta mer än en teknisk detalj. Det är ofta en avgörande säkerhetsfråga. Att själv få bestämma var data lagras och vilken motor som bearbetar den kan vara skillnaden mellan att kunna använda AI eller inte alls.

– Vi kan leverera precis där kunden vill, i Azure Sverige, i Tele2:s datacenter eller som en onprem-lösning i företagets egen källare. Många kunder vill slippa amerikanska moln av regulatoriska skäl och Dora-direktivet gör att varje led i leverantörskedjan måste granskas.

”Det är en svår nöt att knäcka för många företag”

– Många frågar oss var data lagras om den är krypterad och hur underleverantörskedjan ser ut. Det är en svår nöt att knäcka för många företag och därför bygger vi vår lösning så att kunden själv får välja miljö och kan följa sina egna policies, berättar Stefan Friis.

Customer First har byggt sin tekniska plattform på microservices-arkitektur och Kubernetes-kluster. Det gör att lösningen kan flyttas mellan moln och lokala datacenter utan att förlora någon funktionalitet.

– Vår baslicens är egentligen en ärendehanteringslicens. Varje interaktion loggas i samma ärende, oavsett kanal som e-post, sms, chatt eller samtal. AI behöver en sammanhållen kontext, inte utspridd information i separata system.

I praktiken innebär det att ett kundärende kan börja i mejl, fortsätta i ett telefonsamtal, följas upp med sms och avslutas i en chatt men all information samlas på ett ställe. För AI-motorer innebär det en guldgruva av strukturerad data.

– När dialogen loggas på det här sättet kan vi analysera kundupplevelsen mycket bättre. Vi kan till och med koppla ihop feedback, som kundens svar på en enkät, med hur dialogen faktiskt såg ut.

Stefan Friis återvänder till säkerhetsaspekten och förklarar att säkerheten är en del av själva affärsidén för Customer First.

– Vi har byggt hela vår arkitektur för känsliga miljöer som bank, finans och industri. Vi har valt bort multi-tenant eftersom det försvårar kundanpassning och gör det svårare att ha full kontroll. Istället kör vi private cloud, men med samma kodbas för alla kunder.

Skillnaden blir tydlig vid uppdateringar enligt Stefan Friis. Även om alla kunder kör samma version kan man ha egna gränssnitt och integrationer. Med hjälp av öppna rest-API:er kan man koppla ihop plattformen med CRM-system, orderhanteringssystem eller transportsystem.

Säkerhetsarbetet handlar också om att testa sin egen plattform. Customer First använder externa bolag för penetrationstester en till två gånger per år.

– De försöker skjuta hål på vår arkitektur men hittills har vi alltid fått godkänt. Det är viktigt att bygga robust från början, inte bara tillföra säkerhetslösningar i efterhand.

Dessutom är bolaget ISO 27001-certifierat, en viktig nyckel i dialogen med större organisationer.

– När vi träffar banker eller myndigheter är det ofta det första de frågar: är ni certifierade? Då kan vi visa att vi har gått igenom processerna och följer regelboken.

Ett oväntat svar

När Techtidningen frågar om vilka säkerhetshot kontaktcenterchefen bör vara mest orolig för just nu är svaret kanske inte det många väntar sig.

– Säkerhetshotet är ofta personalen själv, insiders. Människor som pratar, tar med sig information eller laddar upp känsliga dokument i publika AI-tjänster. Okunskap är ett stort hot, säger Stefan Friis.

Risken med att anställda använder publika tjänster för att exempelvis analysera rekryteringsdokument eller avtalsmallar är påtaglig.

– Då sprider du informationen rätt ut på internet, ofta utan att tänka på det. Därför bygger vi in skydd som gör att känsliga fält maskeras innan något skickas till en extern motor.

Skyddsfunktionerna i Customer Firsts plattform fungerar som filter. Personnummer, namn och adresser byts ut mot placeholders innan datan bearbetas.

– När svaret kommer tillbaka byts placeholdern tillbaka. På det sättet lämnar aldrig känslig information systemet. Och vissa saker får inte skickas alls utan stoppas samtidigt som en varning går till chefen.

Bakom dessa filter finns ytterligare säkerhetsregler i plattformens backend, som sätter absoluta gränser för vad AI-komponenterna får göra.

– Det är inget som kunden själv behöver aktivera. Det är inbyggt från början.

Det finns flera säkerhetsrisker som Customer First ser som växande. Oskyddade e-postintegrationer är en. Osäkra filuppladdningar via webbsidor är en annan.

– Jag har sett företag där man kan ladda upp vilken fil som helst i ett formulär. Det är en öppen dörr för attacker. Eller så bygger man egna e-postintegrationer och får ta ansvar för viruskontroller själv.

När en stor svensk it-leverantör nyligen drabbades av en omfattande attack stod många kunder utan systemstöd. Men Customer First lyckades återställa en kund på bara fyra timmar.

– Vi hade en backup redo och kunde få upp fem arbetsplatser på vårt kontor. Då kunde de återgå till mejl och chatt medan andra låg nere i flera dagar.

Trots säkerhetsfokuset är AI en central del i plattformen. Men Customer First ser tekniken som ett stöd, inte som något som helt ersätter människorna i kontaktcentret.

– Vi ska inte komma in och sparka kundservicemedarbetare. AI ska ta de repetitiva frågorna så att människor kan fokusera på de komplexa dialogerna. Det gör jobbet roligare och kvaliteten högre.

Enligt Stefan Friis är ett vanligt misstag att företagen idag bygger isolerade AI-projekt som riskerar att aldrig användas i praktiken.

– Vi träffade en kund som byggt en AI-bot som hämtade information från bland annat Sharepoint, men ingen använde den. Varför? Därför att den låg utanför arbetsflödet. AI måste vara inbyggt där dialogen sker.

– Hoppar du inte på AI-tåget nu kommer du att stå kvar på perrongen, men det måste handla om att få in AI i befintliga arbetsflöden, inte som isolerade experiment.

Stefan Friis avslöjar slutligen att Customer First har planer på att gå in på andra marknader.

– Vi vill ut i Europa. Vi tar Sverige, är på gång i Norden och har inlett partnerstrategier för Europa. Men för att växa snabbare behövs stöd, gärna från EU. Annars är risken att europeiska AI-bolag säljs till amerikanska ägare, och då tappar vi kontrollen.