Professorn: ”AI-agenten är på väg att bli ditt varumärke”

– Samma underliggande teknik kan upplevas som ett verktyg i ett sammanhang och som en relationspartner i ett annat, konstaterar han.

I forskning som Julian De Freitas genomfört jämfördes användare av två olika typer av chattbotar. Den ena var utformad som en varm och stödjande AI-kompanjon, den andra som en mer opersonlig assistent för att lösa uppgifter. Användarna av kompanjonen uppgav i vissa fall att de kände större närhet till chattboten än till kollegor, bekanta och nära vänner.

En annan studie visade att både en neutral AI-assistent och en empatisk AI-kompanjon kunde minska känslan av ensamhet efter en kort interaktion. Effekten var däremot betydligt större när AI:n uppträdde som en vän.

– Den empatiska AI:n fick människor att känna sig mer hörda, skriver Julian De Freitas.

För företag innebär det att designen av en chattbot inte bara handlar om hur väl den svarar på frågor. Lika viktigt blir vilken roll den ska spela. Den kan vara en effektiv assistent, rådgivare, coach, lärare, kompanjon eller någon annan tydligt definierad relationstyp.

Skapar förväntningar hos kunden

Varje roll skapar samtidigt förväntningar. Tonläge, minne, gränser och när samtalet ska lämnas över till en människa behöver stämma överens med den relation företaget tidigare lovat kunden. När rollerna blandas kan problem uppstå. En rådgivare som plötsligt börjar driva aggressiv merförsäljning riskerar exempelvis att uppfattas på ett helt annat sätt än en traditionell säljkanal.

Julian De Freitas menar att företag bör ta fram någon form av relationsbeskrivning av sina AI-tjänster. Den bör beskriva inte bara hur chattboten ska bete sig i olika situationer utan också vilken relation den erbjuder kunden, hur personlig den får bli, vilken information den ska komma ihåg och vilka kommersiella beteenden som riskerar att bryta förtroendet.

För en kontaktcenterchef får frågan en tydlig datadimension. Ju närmare relationen blir, desto större blir ansvaret. Konversationell AI kan använda samma sociala signaler som människor använder för att bygga relationer, det vill säga bekräftelse, humor, empati och uppmuntran, samtidigt som systemet alltid finns tillgängligt.

Enligt Julian De Freitas visar forskningen att människor kan vara betydligt mer bekymrade över att företaget får tillgång till deras personliga information än över att chattboten får samma information.

– Ju högre graden av intimitet är, desto större blir omsorgsansvaret och desto försiktigare bör företagen vara med data, monetisering och uppdateringar.

Den sista punkten är särskilt viktig. När kunder har byggt upp en relation till en chattbot kan en till synes mindre produktförändring få oväntade konsekvenser. Ändras personlighet, funktioner eller sättet att kommunicera kan användaren uppleva det som att själva relationen har förändrats.

Julian De Freitas pekar på exempel där användare har reagerat kraftigt när etablerade beteenden hos chattbotar har ändrats. Slutsatsen är att större förändringar bör genomföras varsamt, gärna med möjlighet för kunden att välja och i vissa fall behålla en tidigare version.

– När människor skapar emotionella band till en chattbot kan förändringar i dess personlighet eller förmågor kännas som att förlora någon de bryr sig om.

Utvecklingen innebär också att företagen kan behöva tänka om kring sin varumärkesarkitektur. I framtiden kan ett varumärke innehålla flera olika AI-relationer: en assistent för service, en coach för vägledning och kanske en rådgivare inom ett annat område.

Men rollerna måste passa ihop. Kombinationer där chattboten uppfattas ha motstridiga motiv, exempelvis både som rådgivare och som säljare, riskerar att skapa osäkerhet kring vems intressen AI:n egentligen företräder.

Det är också här den kanske största förändringen finns. När chattboten blir den huvudsakliga kontaktytan mot företaget blir varje samtal en del av varumärket. Hur mycket AI:n minns, hur den svarar när något går fel och när den lämnar över till en människa blir inte längre bara tekniska produktbeslut utan ett beslut som påverkar hela kundrelationen.