Palo Alto-chefen: ”AI-projekt drivs utan tillräcklig säkerhetsstyrning”

– AI och cybersäkerhet hör ihop. Har du inte säkra AI-modeller har du inte heller skapat den resiliens som krävs ur ett cybersäkerhetsperspektiv. Utvecklingen går oerhört fort just nu och det ställer nya krav på organisationerna, säger hon till Techtidningen.

Enligt Annika Ekdahl har cybersäkerhet under senare år gått från att främst vara en fråga för it-avdelningen till att bli en fråga för ledningar och styrelser. AI-utvecklingen förstärker den utvecklingen ytterligare.

Den största utmaningen handlar enligt henne inte om tekniken i sig, utan om hur den används i verksamheterna.

Många AI-initiativ startar ute i organisationerna där fokus ligger på effektivisering, innovation och nya arbetssätt. Säkerhetsfrågorna kommer däremot inte alltid in från början.

– Det kan initieras en massa AI-projekt som egentligen inte har någon governance-struktur runt omkring sig. Många av projekten drivs utanför det traditionella säkerhetsperspektivet och då finns risken att man bygger in problem redan från start. Där behöver organisationer få en mer holistisk syn på cybersäkerhet och AI och se till att de två områdena hänger ihop, säger Annika Ekdahl.

Hon menar att AI-utvecklingen också förändrar synen på vem som ansvarar för säkerhetsfrågorna.

Tidigare kunde cybersäkerhet i hög grad hanteras inom it-organisationen, men i dag påverkar riskerna hela verksamheten.

– Det är en styrelsefråga i dag. Man behöver rapportera på de här frågorna, förstå vilka risker som finns och säkerställa att man har kontroll över dem. När AI blir en del av affären måste också styrningen finnas på plats.

Säkerhetsfunktionen kopplas ofta in för sent

Den snabba utvecklingen gör att nya tjänster och projekt kan startas betydligt snabbare än tidigare teknikinitiativ.

Samtidigt förändras hotbilden i takt med att AI-modellerna blir mer avancerade.

Palo Alto Networks deltar bland annat i Anthropics initiativ Project Glasswing, där utvalda säkerhetsaktörer får möjlighet att analysera nya AI-modeller innan de blir allmänt tillgängliga.

– Det är oerhört intressant, men också lite skrämmande eftersom utvecklingen går så fort. Det som tidigare kunde kräva mycket tid och resurser kan i dag göras betydligt snabbare. Det gäller både de som bygger skydd och de som försöker hitta nya sätt att attackera system, säger Annika Ekdahl.

Hon betonar samtidigt att organisationer inte ska se utvecklingen som något de står maktlösa inför. Tvärtom handlar mycket om att arbeta mer systematiskt och få in säkerhetsarbetet tidigare i processerna.

– Det finns saker man kan göra. Det handlar om att vara så proaktiv som möjligt och bygga in säkerheten från början i stället för att försöka lägga till den i efterhand.

När AI-agenter blir nya användare

Ett område som återkommer i nästan alla kunddialoger är identitetssäkerhet.

Enligt Annika Ekdahl sker en stor del av dagens intrång via användarkonton, behörigheter eller identiteter som på något sätt har komprometterats. Därför ser hon identitet som ett av de viktigaste områdena för organisationer som vill minska sina risker.

Många arbetar i dag mer aktivt med Zero Trust-principer, där användare och system endast får tillgång till de resurser de behöver för att utföra en specifik uppgift.

– De flesta cyberattacker sker via en användare eller en identitet. Ska man investera i någonting för att minska riskerna är identitet en väldigt viktig del. Det handlar om att ha kontroll över vem eller vad som får tillgång till olika system och att begränsa behörigheter på ett genomtänkt sätt, säger hon.

AI-utvecklingen gör samtidigt frågan mer komplex.

När fler AI-agenter och automatiserade tjänster införs ökar också antalet digitala identiteter som organisationerna måste hantera.

Det handlar inte längre bara om människor som loggar in i system, utan också om program, automatiserade processer och AI-baserade tjänster som kommunicerar med varandra.

– Det kommer att bli en växande utmaning framöver. Antalet identiteter växer kraftigt och det är inte bara mänskliga användare längre. Vi får allt fler maskinidentiteter som också behöver hanteras, övervakas och skyddas på rätt sätt.

Kunder vill minska säkerhetskomplexiteten

Parallellt med AI-frågorna ser Palo Alto Networks en tydlig förändring i hur organisationer bygger sina säkerhetsmiljöer.

Under lång tid har det varit vanligt att företag valt specialistlösningar från flera olika leverantörer för att lösa specifika problem. Resultatet har ofta blivit komplexa miljöer med många verktyg, integrationer och separata gränssnitt.

– Tidigare har man tittat mycket på best-of-breed, vilket har lett till olika silolösningar ute hos organisationerna. Nu går vi mer mot ett plattformstänk och konsolidering. Organisationer vill minska komplexiteten, få bättre överblick och samtidigt vara kostnadseffektiva, säger Annika Ekdahl.

Enligt henne handlar förändringen inte bara om ekonomi utan också om säkerhet.
När säkerhetsdata samlas i färre plattformar blir det lättare att få en samlad bild av hot, sårbarheter och incidenter.

– Många kunder tittar på hur de kan förenkla sina miljöer och samtidigt stärka säkerheten. Det är en diskussion som vi ser väldigt ofta just nu.

Hon beskriver AI, identitet och plattformskonsolidering som de tre områden som tydligast dominerar samtalen med svenska kunder.

Hög digital mognad – men ökade krav

Sverige tillhör enligt Annika Ekdahl fortfarande de mest digitaliserade marknaderna i Europa. Den höga digitala mognaden och innovationsförmågan gör att många organisationer snabbt kan ta till sig ny teknik.

Samtidigt innebär digitaliseringen att kraven på säkerhetsarbetet fortsätter att öka.

– Sverige är väl positionerat och vi har kommit långt som digital marknad. Vi har många innovativa företag och en hög teknisk mognad, men det behöver göras mycket mer.

Utvecklingen stannar inte av och därför kan inte heller säkerhetsarbetet göra det, säger hon.

Utöver den tekniska utvecklingen möter organisationer också nya regulatoriska krav genom regelverk som NIS2, DORA och AI Act.

Enligt Ekdahl bidrar det till att säkerhetsfrågorna får större uppmärksamhet i verksamheterna.

– Det finns en större mognad i dag. Dels för att organisationer förstår att det är viktigt, dels på grund av hur omvärlden ser ut och de krav som ställs på dem.

Om det finns ett gemensamt tema i de frågor som nu dominerar marknaden är det enligt Annika Ekdahl behovet av att se säkerhet som en integrerad del av verksamhetsutvecklingen.

AI-projekt, identitetshantering och arbetet med att minska komplexiteten i säkerhetsmiljöerna hänger i allt högre grad ihop.

– Säkerställ att cybersäkerheten finns med i AI-projekten från början. Man behöver identifiera var sårbarheterna finns, förstå vilka identiteter som har tillgång till olika system och skapa en helhetsbild av miljön. Det handlar ytterst om att se helheten och inte behandla AI som ett separat spår vid sidan av säkerhetsarbetet, säger hon.