Lista: 5 frågor innan AI-agenten släpps in i produktion

Manageengine är en del av Zoho Corporation och utvecklar verktyg för bland annat it-drift, ITSM, klienthantering och cybersäkerhet. Bolaget har under året börjat rulla ut AI-agenter i sin produktportfölj.

Börjar med att övervaka

Rajesh Ganesan ser en tydlig ordning för hur AI-agenter får större mandat. Först används de för passiv övervakning. Nästa steg är aktiv analys, följt av begränsade åtgärder när organisationen litar på resultatet.

Inom säkerhetsområdet kan olika agenter exempelvis granska brandväggsloggar, serverloggar och information från klientenheter. Deras uppgift blir att hitta avvikande mönster och koppla ihop signaler som en människa har svårt att upptäcka i stora datamängder.

– Det börjar med passiv övervakning, sedan aktiv övervakning. Därefter kan agenten börja utföra en första åtgärd, säger han.

Han har sett AI-agenter användas i produktion för att upptäcka avvikelser och koppla samman säkerhetshändelser. Däremot är det fortfarande ovanligt att agenterna själva genomför åtgärden.

Samma försiktighet gäller i Manageengines egen verksamhet. Bolaget använder AI för bland annat kodgenerering, men har som policy att människor granskar varje rad som tekniken skapar. Allt kan ännu inte lämnas över till AI, konstaterar Ganesan.

Kunden bromsar vid besluten

Avståndet mellan teknisk möjlighet och praktisk användning märks hos Metro Service A/S,, som sköter drift och underhåll av tunnelbanan i Köpenhamn. Organisationen använder flera produkter från Manageengine, framför allt ärendehanteringssystemet ServiceDesk Plus.

I dag bygger en stor del av automatiseringen på förutbestämda regler. En prioritetsmatris väger samman hur många som påverkas av ett problem och om användaren fortfarande kan arbeta. Utifrån svaren får ärendet en prioritet och en svarstid.

AI används bland annat för att sammanfatta dialogen i långvariga supportärenden och hjälpa medarbetarna att dokumentera hur problemen löstes. Det är värdefullt när ett ärende har varit öppet i flera månader och innehåller många samtal och försök till åtgärder.

Att låta AI fatta egna operativa beslut är däremot ett betydligt större steg.

– Vi är väldigt långt ifrån att låta AI fatta beslut. Det är ett mycket kraftfullt verktyg, men det finns fortfarande många fel och betydande brister i datahygienen, säger Piotr Wojciech Mankiewicz, IT Administrator & Process Development Lead på Metro Service A/S.

Först måste organisationen ha ordning på bland annat informationen om sina it-tillgångar, kunskapsbasen, processerna och medarbetarnas behörigheter. Därefter kan AI stegvis få fatta beslut med begränsade konsekvenser, enligt honom.

Piloten ger inte svaret

Just steget från avgränsat test till skarp drift är ett av de största problemen, enligt Rajesh Ganesan. En pilot kan visa att tekniken fungerar i ett kontrollerat sammanhang. Den säger mindre om huruvida organisationens infrastruktur klarar att hantera ett stort antal agenter med tillgång till verkliga system och data.

– En pilot visar bara om ni är redo att börja. Att avgöra om ni är redo för produktion kräver en helt annan bedömning.

Fem frågor före skarp drift

Innan en agent får tillgång till produktionsmiljön behöver it-organisationen kunna svara på:

• Vilken agent utförde en viss uppgift?
• Hade agenten rätt behörighet?
• Varför valde den just den åtgärden?
• Går hela förloppet att följa i efterhand?
• Vem ingriper och tar ansvar om något går fel?

Organisationer som inte kan svara på de frågorna bör inte ge agenter tillgång till produktionsmiljön, anser han.

– Många företag pressar sina team att rulla ut AI brett eftersom konkurrenterna verkar röra sig snabbt. Samtidigt vet de inte om den digitala infrastrukturen är redo. Det är ett fundamentalt misstag.

Dålig data skalar problemen

Metro Service har gjort samma iakttagelse från kundsidan. Automation som ser enkel ut i en demonstration kräver i praktiken återkommande tester och övervakning. När flödet inte fungerar blir det ofta tydligt att organisationen saknar tillförlitliga uppgifter om sina tillgångar, prioriteringar eller arbetssätt.

Rajesh Ganesan beskriver AI som en förstärkare av den miljö som tekniken placeras i.

– Om infrastrukturen är bra hjälper AI till att förbättra den. Om processerna och datahygienen är dåliga gör AI problemen ännu större.

För it-chefen innebär det att arbetet inför produktionssättningen blir minst lika viktigt som valet av modell eller verktyg. Data behöver vara tillförlitliga, behörigheterna begränsade och varje agents identitet och handlingar möjliga att följa. Organisationen behöver också bestämma vem som ansvarar när agenten agerar fel.

Ansvar flyttar gränsen

Hur långt agenten får gå avgörs därför inte bara av vad tekniken klarar. Rajesh Ganesan pekar ut ansvar och tillit som de viktigaste faktorerna när gränsen flyttas.

– Vem kan hållas ansvarig? Det är så gränsen kommer att flyttas.

Människan kan med tiden lämna delar av det operativa arbetet, men behöver fortfarande bestämma hur agenten byggs, vilka verktyg den får använda och inom vilka ramar den får agera. Gränsen kommer dessutom att ligga på olika ställen i olika organisationer.

– Varje företag har sina processer, arbetssätt och sin kultur. Man kan inte titta på ett annat företag och lägga gränsen på samma nivå.

Han upplever att nordiska kunder är försiktigare än kunder i många andra delar av världen. De ställer fler frågor om integritet, databehandling, styrning och kontrollmekanismer innan de släpper in AI i verksamheten.

Ganesan ser försiktigheten som en styrka. Manageengine erbjuder både egna AI-modeller och möjlighet att ansluta externa modeller. Flera av bolagets produkter kan också köras i kundens egen it-miljö. Vilken lösning som är lämplig beror enligt honom på kundens krav på kontroll, integritet och digital suveränitet.

It-chefen får ett bredare ansvar

När fler medarbetare kan skapa AI-agenter med instruktioner i naturligt språk förlorar it-avdelningen en del av sitt tidigare kunskapsövertag. I stället växer ansvaret för att styra vem som får skapa en agent, vilken information den får använda och vilka handlingar den får utföra.

Rajesh Ganesan tror därför att it-chefens betydelse kommer att öka. Utöver teknik behöver rollen hantera kostnader, modellberoenden och geopolitik. Han pekar bland annat på att tokenbaserade priser kan göra AI-kostnader svåra att förutse och att valet mellan kommersiella och öppna modeller skapar nya beroenden.

Samtidigt varnar han för att behandla AI som något helt frikopplat från tidigare teknikskiften.

– Grunderna förändras inte. Bygg en robust och motståndskraftig digital infrastruktur och utveckla sedan kompetensen för att använda AI, på samma sätt som när molnet, virtualisering och mobilitet kom.

Han beskriver AI-tekniken som både användbar och översåld. Den skapar värde i enskilda arbetsuppgifter, men de breda effekterna och avkastningen är fortfarande svåra att belägga.

Rådet inför skarp drift blir därför att börja i den befintliga it-miljön.

– Har du byggt en bra grund kommer AI att förstärka det som fungerar. Har du inte gjort det kommer tekniken att förstärka bristerna.