Så ökar du takten utan att tappa kontrollen

– Varje use case bär sin egen risk, säger hon.

Hon vill att företagen skiljer på uppgifter som kräver omfattande mänsklig granskning och sådana där enklare kontroller räcker. Med tydliga regler kan medarbetarna gå vidare utan att behöva reda ut samma frågor inför varje ny tillämpning.

Samma modell, olika krav

I en demonstration på SAS kundkonferens illustrerade hon skillnaden mellan att använda en språkmodell för mötessammanfattningar och för att besvara en anbudsförfrågan.

Ett anbud behöver granskas mot företagets krav och åtaganden. Om samma kontrollförfarande läggs på en enklare, intern uppgift kan arbetet bli onödigt omständligt, resonerar hon.

Det är därför användningen måste finnas med när företaget sätter sina regler. Att godkänna en modell en gång säger inte hur den ska få användas i alla delar av verksamheten.

Josefin Rosén efterlyser en förteckning över tillämpningarna, med ansvar, kostnader och uppföljning. Vilken modell används till vad? Gör den fortfarande det som var avsikten? Vem ska kontaktas om något blir fel?

– Man har pratat många år om model inventory, att man ska ha koll på alla modeller, och det är bra. Men du måste också ha koll på varje use case för varje modell.

En modell kan användas till många olika uppgifter. Överblicken behöver följa med när användningen växer.

Förtroendet måste ha täckning

Josefin Rosén hänvisar till SAS rapport Data and AI Impact Report: The New Economics of Trust, med undersökningsdata från IDC. Den globala studien omfattar 2 699 beslutsfattare i 28 länder och har fyra fokusbranscher: bank, försäkring, life science och offentlig sektor.

Rapporten skiljer mellan hur mycket människor litar på AI och vilka arbetssätt organisationerna har för att systemen ska vara värda förtroendet. Rapportens Trustworthiness Index väger samman fem områden: datakvalitet och datastyrning, modellstyrning och tillsyn, förklarbarhet och rättvisa, policy för ansvarsfull AI samt revision och ansvar.

Organisationerna med högst indexpoäng rapporterar oftare stark eller hög avkastning på sina AI-investeringar än gruppen med lägst poäng. Resultaten visar ett samband, men fastställer inte att styrningen ensam orsakar den bättre avkastningen.

Josefin Rosén betonar skillnaden mellan tillit och tillförlitlighet. Tillit är vad människor känner, medan tillförlitlighet handlar om vad organisationen faktiskt kan visa genom data, styrning, transparens och ansvar.

En organisation kan alltså känna stort förtroende för en lösning utan att ha tillräcklig insyn i hur den fungerar eller vilka risker användningen medför.

Ett rimligt svar behöver kunna granskas

Förklarbarhet är en del som hon vill att it-chefer ställer tydligare krav på.

Hon beskriver hur ett svar kan verka korrekt och logiskt men ändå vara svårt att använda. Om medarbetaren inte kan förstå grunden för svaret behöver någon gå tillbaka och kontrollera det.

Det ligger också i linje med rapporten, där bristande förklaring är den vanligaste orsaken till att användare väljer att frångå AI rekommendationer.

Sådan granskning är nödvändig i vissa situationer. I andra kan bristande insyn skapa extraarbete som hade kunnat undvikas.

– Det är en administrativ kostnad som man lägger på att dubbelkolla AI, som man absolut ska göra i vissa fall, men inte alla.

Förklarbarhet ersätter alltså inte mänskligt omdöme. Den ska ge människan bättre förutsättningar att avgöra när ett resultat går att använda och när det behöver undersökas närmare.

Bestäm var datan får finnas från början

Ett annat vägval gäller datan. Var får den lagras och behandlas, och vilka regelverk behöver verksamheten förhålla sig till?

Josefin Rosén anser att de frågorna måste hanteras när systemen utformas. Tydligare krav på kontroll över data kan innebära att organisationen behöver tänka om kring både arkitektur och driftsmodell.

Att lösa frågorna i efterhand kan ta tid och kräva omarbete. Hennes råd är därför att låta kraven på data påverka arkitekturen från början.

Regler som fungerar i arbetet

För Josefin Rosén är styrningens uppgift att göra det tydligt vad organisationen kan gå vidare med, vilka kontroller som behövs och vem som ansvarar. Det ska hjälpa verksamheten att använda AI i större skala med bibehållet förtroende.

Det kräver också löpande uppföljning. En kontroll före lanseringen räcker inte om användningen sedan förändras eller modellen börjar ge andra resultat.

– Kan vi upptäcka när det blir fel på ett enkelt sätt?

Svaret behöver finnas innan fler arbetsuppgifter lämnas över till systemen. Och någon måste ha ansvar för att agera när felet upptäcks.