AI-förordningen är här – så agerar svenska kontaktcenter

Det är viktigt att förstå att det inte ställs krav på att man ska vara transparent med all AI-användning, men när det gäller kontaktcentret finns det en huvudregel som säger att kunder som interagerar direkt med ett AI-system ska informeras om detta på ett sätt som är tydligt.

Regelverket täcker heller inte de fall där en mänsklig kundservicemedarbetare använder sig av ett AI-system i bakgrunden för att ta fram svar som sedan skickas till en kund. Här är EU-kommissionens bedömning av att kunden interagerar med en människa och inte direkt med en AI-tjänst.

Många svenska företag och organisationer har redan innan AI-förordningen började träda i kraft varit tydliga med att kunderna interagerar med en chattbot, men här har det funnits stor variation. Techtidningen har därför ställt ett antal frågor om hur AI-förordningen har påverkat några företags kontaktcenter och hur de kommunicerar med kunderna.

Telenor Sverige, Christoffer Lundström, kundservicechef:

Använder ni AI-tjänster inom kundservice som omfattas av EU AI-förordning, exempelvis en chattbot?

– Ja. Vi använder AI på flera sätt inom kundservice. Det handlar bland annat om chatt- och voicebotar i direkt kontakt med kunder, stöd för våra medarbetare under kunddialogen samt AI-stöd för att sammanställa och dokumentera information efter kontakten. Vi har i dag inga användningsfall inom kundservice som vi bedömer som högrisk enligt AI-förordningen.

Har ni genomfört några förändringar i och med att transparensreglerna i AI-förordningen trädde i kraft i augusti?

– Vi har inte behövt göra några större förändringar i våra kundtjänstlösningar med anledning av de nya transparenskraven. Ansvarsfull och transparent användning av AI har varit viktigt för oss sedan tidigare. Inför att reglerna började tillämpas har vi samtidigt sett över våra arbetssätt och hur vi informerar om användningen av AI.

Hur informerar ni kunderna om att de interagerar med en AI-tjänst?

– När en kund interagerar direkt med våra AI-lösningar, exempelvis via chatt- eller voicebot, informerar vi tydligt om att kunden har kontakt med en AI-assistent.

Swedbank:

Använder ni AI-tjänster inom kundservice som omfattas av EU:s AI-förordning (exempelvis en chattbot)?

– Swedbank har länge använt AI för att göra bankärenden enklare, tryggare och mer personliga.

Har ni genomfört några förändringar i och med att transparensreglerna i AI-förordningen trädde i kraft i augusti?

– Av de AI-system som används inom kundservice och omfattas av kraven inom EU:s AI förordning säkerställer vi att det tydligt framgår för våra kunder i antingen text eller tal, när de interagerar med AI.

Hur informerar ni kunderna om att de interagerar med en AI-tjänst?

– För att säkerställa att AI-användning och utveckling sker säkert, transparent och ansvarfullt har vi utvecklat vår interna styrning för att följa viktiga regelverk så som EU:s AI‑förordning och GDPR. Vi bevakar, analyserar och implementerar löpande de krav som kommer från EU och andra lagstiftare.

(Läs mer om hur Swedbank använder AI)

SJ, Erik Erlandsson, chef kundservice & trafikkommunikation:

Använder ni AI-tjänster inom kundservice som omfattas av EU:s AI-förordning (exempelvis en chattbot)?

– Ja, vi använder vår chatbot Sonja på både sj.se och i Sj:s app.

Har ni genomfört några förändringar i och med att transparensreglerna i AI-förordningen trädde i kraft i augusti?

– Nej, vi har redan sedan tidigare informerat om att Sonja är en AI-chattbot och har inte gjort några ytterligare tillägg nu.

Hur informerar ni kunderna om att de interagerar med en AI-tjänst?

– När man påbörjar chattdialogen så visas information om att Sonja är en AI-chattbot.

Ica:

Använder ni AI-tjänster inom kundservice som omfattas av EU:s AI-förordning (exempelvis en chattbot)?

– Ja, vår chattbot använder AI för att ge svar på enklare frågor. Både system, processer och regelverk utvecklas och testas inför lansering för att möta de krav som ställs.

Har ni genomfört några förändringar i och med att transparensreglerna i AI-förordningen trädde i kraft i augusti?

– Vi har en övergripande AI‑policy och riktlinjer för ansvarsfull användning av AI inom ICA, med fokus på säkerhet, dataskydd och regelefterlevnad. Detta fanns därför på plats redan innan den nya AI-förordningen trädde i kraft och förvaltas löpande av våra AI-ansvariga.

Hur informerar ICA kunderna om att de interagerar med en AI-tjänst?‌

– Vår chattbot visar tydligt på att du integrerar med AI och inte en riktig människa genom att starta med denna information i vårt hälsningsmeddelande. När svaret är AI-genererat finns detta tydligt formulerat och vi hänvisar alltid direkt till källan genom länk.