Risk för dataläckage när allt fler använder ai-verktyg

För Check Point och många andra cybersäkerhetsleverantörer är ai-tekniken inte något nytt. De använder maskininlärning och ai sedan många år tillbaka för att upptäcka misstänkt aktivitet i företagsnätverk. Detta gör man genom att bearbeta stora mängder datatrafik för att hitta de mönster som ofta förekommer i cyberattacker.

Användningen av ai-tjänster har exploderat

De senaste åren har områden som generativ ai vuxit fram, vilket har fått användningen av olika ai-tjänster i molnet att explodera – och det är många medarbetare ute bland olika företag som mer än gärna vill experimentera med den senaste ai-tekniken för att kunna bli mer effektiva eller bara hänga med i teknikutvecklingen.

– Det finns en sajt som heter ”There’s an ai for that” med ungefär 15 000 verktyg som du och jag kan använda för att analysera data eller skapa bättre presentationer. Hur vet vi som organisation att det är bra verktyg? förklarar Mats Ekdahl, och fortsätter:

– Det här är ett nytt område som vi måste adressera och den största oron hos våra kunder handlar om dataläckage och etiska tveksamheter kring hur anställda utnyttjar ai-verktygen. Det är jättemånga företag som saknar insyn.

Här erbjuder Check Point lösningar som hjälper företag att ta kontroll över vilka ai-tjänster som används och vilken information som överförs till dem. Risken är nämligen att data som används i promptarna som skickas till ai-tjänsterna hamnar i fel händer.

– Så fort du petar in någonting i promptarna så lämnar informationen din dator. Om du vill snygga till din finansiella rapport inför ett möte så kanske det handlar om konfidentiell information, men användaren tänker inte alltid i de banorna.

Mats Ekdahl berättar att det traditionellt sett har varit komplicerat att ta fram en säkerhetspolicy som blockerar exempelvis personnummer eller finansiell information, men med dagens ai-teknik är det fullt möjligt. Förutom att företaget kan applicera ett skydd som förhindrar att viss slags information läcker, så får man samtidigt också en bild av vilka verktyg som medarbetarna använder sig av.

– Ni kanske använder Microsoft Copilot som ert primära verktyg, men får en rapport där det framgår att ett antal användare väljer helt andra ai-verktyg som inte är sanktionerade av it-avdelningen.

Körs i regel som molntjänster i webbläsaren

Problematiken kring så kallad skugg-it, vilket innebär att anställda väljer att använda sig av it-tjänster som inte godkänts av it-avdelningen, är definitivt inte ny. Men dagens ai-tjänster är i regel inte applikationer som installeras lokalt på en dator, utan körs istället som molntjänster i en vanlig webbläsare.

För att kunna identifiera att det är, i värsta fall, skadliga ai-tjänster som används krävs det enligt Mats Ekdahl idag ett lite mer intelligent skydd. Den enklaste lösningen är att man applicerar en skyddsfunktion direkt i webbläsaren.

– Då spelar det ingen roll om du sitter bakom kontorets säkerhetsramar eller i sommarstugan. Så fort du använder din webbläsare för att nyttja ai-verktygen så finns skyddet injicerat där, förklarar Mats Ekdahl.

Ett annat orosmoment när det gäller artificiell intelligens är att en del organisationer har börjat bygga sina egna ai-modeller och ai-applikationer. Här gäller det att säkerställa att infrastrukturen är tillräckligt skyddad så att modellerna inte kan injiceras med skadlig kod och även här finns det redan idag säkerhetslösningar att tillgå.

I dagsläget skriker många organisationer efter personal med rätt kompetens för att hantera den allt mer komplexa hotbilden på cybersäkerhetsområdet. Även här kommer ai-tekniken in i bilden, detta i form av smarta ai-assistenter som har tillgång till mängder av data och som kan svara på olika slags frågor.

– Är min organisation tillräckligt skyddad mot den här sårbarheten som publicerades alldeles nyss? Det krävs många mantimmar för att gå igenom hela infrastrukturen och ta reda på det. Då kan jag istället ta hjälp av min ai-assistent för att kolla upp om vi är sårbara, förklarar Mats Ekdahl.

Kan hjälpa till vid incidenter

Ai-assistenten, som kan fungera som en vanlig chattbot, kan också komma till användning om det har skett någon form av incident. Det kan vara ytterst resurskrävande att analysera en incident och säkerställa att man har vidtagit alla åtgärder som behövs för att säkerställa att problemet inte har spridit sig till andra system.

– Ai-assistenten kan utföra analysen och sedan ge dig mycket konkreta fingervisningar om vad som är åtgärdat och vad som behöver göras: åk till kontoret ”X” och plocka ut den här maskinen ur systemet, eller vad det kan vara.

Denna typ av ai-assistenter, som avlastar säkerhetspersonalen, och effektiviserar arbetet finns redan tillgängliga från Check Point och andra leverantörer av säkerhetslösningar och bygger på så kallad generativ ai. Men det är tyvärr en teknik som också används av allt fler illasinnade aktörer, bland annat för att ta fram skadlig kod.

– Om man inte är så duktig på att skriva kod kan man använda den här typen av verktyg för att ta fram kod som kan användas för att stjäla information från olika organisationer. Det har lett till att hotlandskapet har förändrats drastiskt under de senaste två åren, säger Mats Ekdahl.

”Förfinar sina verktyg med hjälp av ai”

– Det är inte särskilt många runt om i världen som är oerhört tekniskt kompetenta, men med den här typen av verktyg så kan plötsligt vem som helst skapa en phishingkampanj och skicka e-post som känns väldigt legitim och som får oss att läcka data ofrivilligt. Vi ser hur cyberskurkarna förfinar sina verktyg med hjälp av ai för att utföra sina kriminella aktiviteter.

Mats Ekdahl berättar att kvaliteten på innehållet i exempelvis phishing-meddelanden har blivit mycket högre den senaste tiden och även de som själva jobbar med cybersäkerhet har svårt att avgöra om det handlar om falska meddelanden, något som gör det viktigare än tidigare att använda sig av moderna säkerhetslösningar som också tar hjälp av ai-teknik. Idag är just e-post den vanligaste attackvektorn in i en organisation när cyberkriminella vill få tillgång till systemen och stjäla data.

I slutändan handlar det om att användarna själva måste tänka till och dessutom har fått den utbildning som krävs. Man bör också genomföra tester av den egna organisationen exempelvis för att se om de anställda reagerar på innehåll i ett falskt e-postmeddelande.

Mats Ekdahl avslutar med att konstatera att dagens it-system oftast är tätt sammankopplade och här kan ai-tekniken se till att alla delar av infrastrukturen skyddas på bästa sätt om företaget är under attack.

– Om någon upptäcker en incident på en mobiltelefon så kan ai-tekniken säkerställa att datorerna inte är sårbara. Med ai blir systemen mer integrerade och lite mer som en självspelande orkester istället för soloister, säger Mats Ekdahl.

Denna artikel var tidigare publicerad på tidningen telekomidag.se