Vad händer när AI-agenterna blir kunder? Så förbereder sig svenska företag

Det hela blir inte enklare av att många bedragare har börjat använda sig av AI-teknik. Här gäller det att kunna skilja bedragarnas AI-agenter från de som faktiskt använda legitimt. Både Google och OpenAI ligger exempelvis långt framme när det gäller utveckling av AI-baserade, fullt legitima shoppingagenter som kan genomföra köp på uppdrag av en människa.

Det finns teknikplattformar som har funktionalitet för att upptäcka syntetiskt tal och ickemänskliga röster. Men om ett sådant system är konfigurerat för att automatiskt sätta stopp för dessa samtal så konsekvensen kan bli att man går miste om värdefulla affärsmöjligheter.

Så hur bör man då förbereda sig inför en framtid där kunderna tar hjälp av AI-agenter för att kontakt kundservice eller genomföra köp? Techtidningen skickade en uppsättning frågor till några svenska organisationer för att ta reda på om de kontaktats av AI-agenter och vilken framtid de planerar för och några av svaren hittar du nedan.

Vi kan dock konstatera att endast ett fåtal svenska företag och organisationer är tillräckligt förberedda för att hantera en verklighet där AI-agenter agerar kunder. Vi skickade samma uppsättning frågor till ett tjugotal mottagare och endast ett fåtal ville eller kunde svara på frågorna.

Telenor Sverige, service director Christoffer Lundström

Har ni fått in kundärenden där en AI-agent agerat på uppdrag av en kund?

– I nuläget ser vi inte detta som ett tydligt eller återkommande mönster i vår kundservice. Vi har inte uppmärksammat några kundärenden där en AI-agent agerat på uppdrag av en kund.

Har ni en policy för hur medarbetare inom kundservice ska hantera telefonsamtal eller meddelanden som inte kommer från en människa?

– Vi har etablerade rutiner för säker identifiering, hantering av kunduppgifter och en trygg kunddialog. De principerna är centrala oavsett kanal, och blir också viktiga i takt med att nya typer av AI-baserade tjänster växer fram.

Planerar ni för en framtid där AI-agenter i allt högre utsträckning agerar kunder och ser ni några risker i det?

– Ja, det är en utveckling vi följer noga. Vi ser att den kan skapa nya möjligheter, men också aktualisera frågor om identifiering, samtycke, informationssäkerhet och ansvar när någon eller något agerar på uppdrag av kunden.

Behöver era system och processer förändras för att möta denna utveckling?

– På sikt är det rimligt att anta att både system och processer behöver utvecklas i takt med tekniken och förändrade kundbeteenden. För oss är det viktigt att den utvecklingen sker på ett sätt som fortsatt säkerställer en trygg och säker kunddialog.

Telia, Erik Lindström, kundservicechef.

Har ni fått in kundärenden där en AI-agent agerat på uppdrag av en kund?

– Vi har i dagsläget inte sett någon tydlig trend där AI‑agenter agerar på uppdrag av kunder i kundärenden. Däremot ser vi, liksom andra aktörer i branschen, tendenser till att skriftliga kundkontakter blir mer omfattande och utförligt formulerade. Det kan vara ett tecken på att kunder i allt högre grad tar hjälp av digitala verktyg när de formulerar sina ärenden.

Har ni en policy för hur medarbetare (inom kundservice) ska hantera telefonsamtal, eller meddelanden, som inte kommer från en människa?

– AI-genererade kontakter på svenska är idag fortfarande ovanliga men vi följer utvecklingen noga och uppdaterar löpande våra policys, rutiner och utbildningar. Det för att säkerställa att våra arbetssätt och våra samtal sker på ett tryggt och säkert sätt.

– Våra medarbetare hanterar inkommande ärende med höga säkerhetskrav, oavsett om kontakten sker via telefon eller i skrift. Centralt är att vi kräver identifiering. Det är helt avgörande och innebär i praktiken att ärenden som inte kan kopplas till en identifierad kund inte kan hanteras.

Har ni teknik som kan upptäcka syntetiskt tal eller andra kännetecken för AI-agenter?

– För att skydda våra kunder använder vi avancerad teknik i våra nät och system för att upptäcka och stoppa olika typer av bedrägeriförsök. Att specifikt identifiera syntetiskt tal eller AI‑agenter är i dagsläget inget som påverkar hanteringen av kundärenden, men vi följer utvecklingen noga och fortsätter att utveckla vår teknik i takt med den.

Planerar ni för en framtid där AI-agenter i allt högre utsträckning agerar kunder och ser ni några risker i det?

– Ja, AI förändrar både hur digitala tjänster används och hur interaktioner sker, och som marknadsledande aktör är det självklart att vi planerar för det och anpassar våra lösningar i takt med utvecklingen. Samtidigt innebär den tekniska utvecklingen också risker, exempelvis ökade försök till bedrägerier eller missbruk av nya digitala verktyg. Det har vi ett tydligt fokus på och arbetar aktivt för att förebygga, för en trygg kundupplevelse även i en mer AI-driven framtid.

Behöver era system och processer förändras för att möta denna utveckling?

– Vi är i ständig utveckling för att möta förändrade kundbeteenden och förväntningar, så den här förändringen är i sig är inget nytt för oss. Det AI tillför är nya verktyg och möjligheter som kan göra kundernas vardag enklare, snabbare och tryggare. Vår fortsatta utveckling handlar om att stärka kundupplevelsen när AI blir en alltmer naturlig del av människors liv, med oförändrat fokus på kvalitet och säkerhet.

Ica (svar från kommunikationsavdelningen)

Har ni fått in kundärenden där en AI-agent agerat på uppdrag av en kund?

– Nej, vi har i dagsläget inga kända eller formellt identifierade kundärenden där en extern AI‑agent tydligt och uttalat agerat ombud för en kund. I våra kanaler (telefon, chatt, mejl) hanteras ärenden idag som om de kommer från en människa.

Har ni en policy för hur medarbetare (inom kundservice) ska hantera telefonsamtal, eller meddelanden, som inte kommer från en människa?

– Nej, det finns i dag ingen särskild policy i kundservice för att hantera kontakter som kommer från AI‑agenter snarare än människor. Vi har däremot en övergripande policy i bemötandet med våra kunder och en AI‑policy och riktlinjer för ansvarsfull användning av AI inom ICA, med fokus på säkerhet, dataskydd och regelefterlevnad.

Har ni teknik som kan upptäcka syntetiskt tal eller andra kännetecken för AI-agenter?

– I nuläget har vi ingen teknik som automatiskt identifierar syntetiskt tal eller avgör om en kontakt kommer från en AI‑agent.

Planerar ni för en framtid där AI-agenter i allt högre utsträckning agerar kunder och ser ni några risker i det? Behöver era system och processer förändras för att möta denna utveckling?

– Vi räknar med att AI kommer att spela en allt större roll i kundernas kontakt med företag, även som ombud, och vi följer utvecklingen aktivt. Riskområden så som säkerhet och identitet, bedrägeri och missbruk och dataskydd analyseras löpande. På sikt kommer sannolikt både system, processer och regelverk behöva utvecklas för att hantera fler automatiserade aktörer i kunddialogen.