Inga produkter i varukorgen.
Så bygger du en arkitektur för autonoma beslut
STYRNING Autonoma system som fattar fel beslut förstärker felen i skala. Mari Nilsson Björkman på SAS Institute förklarar vad som krävs för att bygga rätt från grunden.
Mari Nilsson Björkman, Global Telecom Advisor på SAS Institute.
Automatisk trafikprioritering. Kreditbedömning i realtid. Erbjudanden som anpassas och verkställs utan mänsklig inblandning. Det sker redan i dag hos telekomoperatörer som byggt in AI i sina kärnprocesser.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
När systemen börjar fatta egna beslut flyttas kontrollen från människor till kod.
– AI går från att vara ett analys- och beslutsstöd till att bli en aktiv beslutsfattare som kan agera i realtid. Det gör att operatörer kan reagera snabbare, men när fler beslut fattas i högre tempo ökar också konsekvenserna av fel, säger Mari Nilsson Björkman, Global Telecom Advisor på SAS Institute.
Onboarding utan mänsklig handpåläggning
Ett konkret exempel är kund-onboarding och finansiell riskbedömning. Processer som tidigare krävde manuell granskning sker nu automatiskt – och beslutet verkställs direkt i systemen.
– Det ställer helt andra krav på transparens, spårbarhet och kontroll, säger hon.
Fel skalar snabbare än tidigare
När beslut automatiseras i stor skala uppstår nya typer av risker:
- Fel i data eller logik kan snabbt eskalera
- Regulatorisk exponering ökar, inte minst kopplat till EU:s AI-regelverk
- Beslut som inte går att förklara riskerar att urholka kundförtroendet
- System kan samverka på oväntade sätt i realtidsmiljöer
– Tidigare talade man om ”garbage in, garbage out”. I dag hör vi oftare ”garbage in, garbage scale”. När beslut både fattas och verkställs automatiskt förstärks både det som fungerar och det som inte fungerar.
Styrning måste byggas in från start
Det traditionella sättet att hantera risker – att granska beslut i efterhand – fungerar dåligt när systemen agerar autonomt i realtid.
I stället behöver styrningen vara en del av arkitekturen.
Det innebär att varje modell eller agent måste ha:
- ett tydligt syfte
- ett definierat beslutsmandat
- tydliga gränser för när en människa ska kopplas in
Dessutom måste besluten gå att följa upp i efterhand.
– Operatören behöver kunna förstå varför ett beslut togs och vilka data som låg till grund för det, säger Mari Nilsson Björkman.
Vad bör man prioritera det närmaste året för att få kontroll över styrningen?
– För det första: definiera var systemen får fatta beslut. Alla beslut ska inte automatiseras – det måste vara tydligt var en människa alltid ska vara involverad.
– För det andra: knyt ihop data- och AI-styrning. Tillförlitligheten avgörs av datan och processerna runt den. Brister där ökar snabbt riskerna.
– För det tredje: bygg kontinuerlig övervakning. Styrning är inte ett engångsbeslut vid driftsättning, utan något som måste ske löpande i drift.
– Frågan är inte om systemen blir autonoma, utan om vi kan lita på besluten.
