Säkerhetsexperten: Så kan AI ta över ett företag på nio minuter

I den förinspelade demonstrationen använde Marcus Murray en kinesisk AI-modell, Kimi3, som tog sig an uppgiften utan att protestera. Modellen började med att kartlägga servern och identifierade på egen hand vilken typ av webbserver det rörde sig om. Därefter hittade den en intern övervakningsapplikation och en möjlighet att utnyttja den för att köra egna kommandon.

– AI:n fick ingen information om applikationen. Den upptäckte den helt själv och hittade ett sätt att använda den för att köra kommandon. Första gången jag gjorde det här satte jag nästan i halsen, säger Marcus Murray.

Steg för steg tog sig modellen vidare mellan servrarna och kunde till slut ta kontroll över domänkontrollanten. Här lagras central information om användarkonton, datorer och säkerhetspolicyer. Enligt Marcus Murray lyckades AI-modellen dessutom hämta ut en nyckel som skulle kunna ge angriparen fortsatt tillgång även efter att lösenord ändrats.

– Den tog över webbservern och flera interna servrar helt autonomt, utan någon som helst kännedom om hur systemen var konfigurerade. Jag har kört attacken många gånger och det går olika fort. Men på nio minuter, till en kostnad av ungefär en dollar, har AI tagit över den här miljön.

Gick att följa vad modellen gjorde

Han berättade om ett fall från september 2025 där kinesiska statsanknutna aktörer använde en AI-plattform för att angripa flera organisationer. Eftersom aktiviteten skedde genom en kommersiell plattform gick det att följa vad modellen faktiskt gjorde. Enligt Murray visade loggarna hur mycket av angreppet som hade delegerats till AI.

– AI utförde själv 80–90 procent av attacken. Operatörerna behövde bara styra lite grann. Det är det som förändrar förutsättningarna: man behöver inte längre ha samma kompetens för att genomföra avancerade angrepp.

Ett annat exempel kommer från en attack som tillskrivs en iransk aktör. Där ska 80 000 datorer hos ett stort medicinföretag ha raderats på tre timmar. För en it-organisation innebär den sortens tidsramar att det kan vara för sent att börja en traditionell, manuellt driven incidenthantering först när ett angrepp har upptäckts.

– Tänk att komma till jobbet och 80 000 datorer är borta. Hur ska man hinna utreda ett intrång och avbryta det på tre timmar? Attackerna sker i maskinhastighet, medan de flesta försvar fortfarande fungerar i människohastighet.

AI gör det också möjligt att hitta och utnyttja fler sårbarheter. Murray uppger att antalet publicerade sårbarheter har ökat från närmare 30 000 år 2023 till nästan 50 000 år 2025. Han hänvisar till exempel på svagheter som AI har upptäckt efter att de funnits oupptäckta i system under mycket lång tid.

– AI hittar sårbarheter som människor inte har hittat och kan kedja ihop flera problem till ett angrepp. När en säkerhetsuppdatering släpps kan en angripare dessutom använda AI för att analysera den och ta fram kod som utnyttjar samma svaghet.

För it-chefer blir problemet särskilt tydligt i arbetet med säkerhetsuppdateringar. Marcus Murray hänvisar till undersökningar som visar att angripare i genomsnitt börjar utnyttja sårbarheter sju dagar innan de blir offentligt kända. Samtidigt är mediantiden för företag att installera en säkerhetsuppdatering 45 dagar. Det innebär att angriparna kan ha ett betydande försprång, både innan en sårbarhet upptäcks och under tiden företagen arbetar med att åtgärda den.

För att lyckas med framtidens cyberförsvar krävs det enligt Marcus Murray mer än att människor granskar loggar och larm. Traditionell SIEM-övervakning räcker inte och inte heller kombinationen av SIEM och mer avancerade XDR-verktyg.

– Vi kommer att behöva agentiska säkerhetsoperationer, där AI används i SOC för att upptäcka och avvärja intrång snabbare. Jag säger inte att man ska byta ut alla sina verktyg. Men man måste komplettera dem med AI för att komma upp i samma maskinhastighet som angriparna.

Det handlar inte bara om teknik. Murray vill se ett säkerhetsarbete där AI, människor och förutsägbar programkod får olika roller. AI kan öka hastigheten i analys och respons, medan mänskligt omdöme behövs när åtgärder kan få stora konsekvenser. Automatisk hantering av incidenter blir en viktig del av utvecklingen.

– Man måste fundera på var man ska ha AI, var man ska ha människor och var man ska ha förutsägbar kod. Det behövs nya processer för att kunna arbeta i den här hastigheten. Vi kommer också att vilja åtgärda fler problem automatiskt, men det måste göras med omdöme, säger Marcus Murray.