Inga produkter i varukorgen.
Därför får CIO:n skulden när AI-agenten spårar ur
AI AI-agenter fattar beslut och genomför åtgärder på egen hand. Men när något går snett hamnar ansvaret ofta hos CIO:n, även när it-chefen varken valt tekniken eller haft möjlighet att kontrollera vad agenten gjort.
De senaste åren har många företag rullat ut olika AI-verktyg, men det är långtifrån alltid som styrningen hänger med. Resultatet har blivit ett ansvarsgap där CIO:n förväntas svara för konsekvenserna av teknik som i vissa fall har införts av andra delar av organisationen.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
I en undersökning som genomförts på uppdrag av företaget 8×8 uppger 52 procent att CIO:n får skulden när AI-agenter gör fel. Bara sex procent anser att ansvaret i första hand hamnar på juridik- eller compliancefunktioner, vilket CIO.com rapporterar om.
– Om vi går tillbaka ett och ett halvt år fanns en kapplöpning för att införa tekniken. Nu börjar vi se en del av priset för det, säger Morgan Watts, vice president för it- och affärssystem på 8×8.
Enligt honom skedde den snabba utrullningen i många fall utan de styrmodeller och kontrollmekanismer som behövs för att säkerställa att AI-systemen verkligen ger de resultat organisationen förväntar sig.
Problemet kompliceras av att CIO:n långt ifrån alltid har varit den som fattat beslutet om vilken AI-lösning som ska användas. Verktyg kan ha godkänts av styrelsen, andra chefer eller enskilda affärsenheter. Anställda kan också ha tagit in AI som skugg-it, samtidigt som leverantörer byggt in agenter i redan befintliga system.
– CIO:n har blivit den sista försvarslinjen för AI och i många organisationer är det ett jobb som de aldrig sökte, säger 8×8:s vd Samuel Wilson.
Han pekar på situationer där CIO:n varken har valt leverantören eller har faktiskt tillgång till den fullständiga dokumentationen över vad AI-agenten har gjort. Trots det är det it-chefens namn som riskerar att hamna i incidentrapporten när något går fel.
Den modellen är enligt Samuel Wilson inte hållbar. Samtidigt innebär situationen att CIO:n behöver ta en mer aktiv roll i arbetet med AI-styrning.
– Det är inget som går att lämna över till någon annan, säger Morgan Watts.
Hittills har han inte sett några tydliga exempel på CIO:er som förlorat jobbet på grund av AI-misstag. Analysföretaget IDC har däremot förutspått att upp till 200 stora företag under de kommande fyra åren kan drabbas av stämningar, böter eller uppsägningar av CIO:er till följd av bristande kontroll och styrning av AI-agenter.
Samtidigt är budskapet från experterna att CIO:n inte bör bära ansvaret ensam. Morgan Watts anser att it-chefen bör driva frågan, men att organisationen måste dela på ansvaret för kontroller, utbildning och införande.
Boris Kolev, global teknikchef på den ideella organisationen JA Worldwide, pekar på att AI-agenter skapar en särskild risk eftersom de inte bara analyserar information. En agent kan exempelvis ändra en post i en databas, skicka ett meddelande eller starta en transaktion.
– Det uppstår ett allvarligt styrningsproblem varje gång ansvaret är större än mandatet, säger han.
Om en affärsenhet väljer en agent eller AI-plattform, leverantören styr hur den fungerar och CIO:n samtidigt förväntas svara för varje fel, har organisationen enligt Kolev skapat ett ansvarsgap redan innan agenten gör sin första åtgärd.
Det innebär samtidigt inte att CIO:n kan ställa sig utanför frågan. Tvärtom behöver it-ledningen tydligt markera vilka begränsningar som finns innan en lösning tas i drift.
– Om vi inte kan granska vad en agent gör eller stoppa den bör vi tydliggöra den begränsningen före införandet och kräva att ledningen fattar ett beslut om risken, säger Boris Kolev.
