Experten: Så ska IT-chefen hantera AI-utmaningarna

– Många har inte gjort sin läxa. Man tänker att AI är ballt men har inte funderat på vad den ska ha tillgång till. Man har alltså inte klassificerat data, helt enkelt, och då börjar man i fel ände, menar han.

Tre frågor avgör

Enligt Lopez börjar företagen ofta med tekniken. Den är ny, häftig och potentialen tycks vara skyhög. Det första varningens finger han höjer gällande att integrera AI handlar om klassificeringen av data. Om inte det är gjort kan inte AI veta vad den ska ha tillgång till – och vad som är avspärrat område. Ges den exempelvis inte tydliga instruktioner om varifrån informationen får hämtas, kommer den heller inte att kunna avgöra vad som är lämpligt eller ens tillåtet. Det kan leda till att AI får tillgång till data som aldrig var avsedd att delas.

– Den kommer inte göra någon diskrepans mellan vad den får och inte får ta, det är inte dess uppdrag att klassificera. Det finns skräckexempel där man har infört Copilot som sedan har letat upp och delat med sig av en vd:s lön – eftersom den fick frågan, berättar Diego Lopez.

Den andra frågan handlar om att data som borde stanna i organisationen riskerar att läcka. Även det handlar om att dra i handbromsen och begränsa AI, så att den inte får för fria tyglar. Det gäller att utforma modellen så att den enbart får tillgång till den information den behöver, inte mer.

Den tredje frågan handlar om att människor är smarta nog att utnyttja dessa svagheter.

– Du kan på olika sätt komma åt AI-motorn utifrån och därigenom ställa frågor om saker som den redan har tillgång till. Finns det inte något skydd, som exempelvis ett DLP-skydd, kan den spilla information som aldrig ska läcka utanför organisationen, förklarar Diego Lopez.

Öppnar dörren för attacker

Han lyfter även fram en annan risk och illustrerar den med ett exempel från ett proof of concept (POC) som ett säkerhetsföretag specialiserat på AI tog fram. I det här fallet hade en organisation inte fullt ut tänkt igenom sin AI-användning. De använde ett AI-läge som automatiskt kunde rendera – och ibland även generera – kod för att effektivisera arbetet. När AI:n sedan uppmanades att skapa något utifrån en angiven källa som den fick tillgång till, genererade den koden automatiskt. När utvecklaren senare återvände var arbetet redan utfört och koden klar – ibland helt autogenererad. Supersmidigt, absolut. Men det öppnar samtidigt dörrar för den som vill förstöra.

– Om jag som antagonist har tillgång till källan så skulle jag kunna lägga in kod som säger åt AI att skapa elak kod istället. Då har du har gett instruktioner för vad den ska göra, när den ska köras och på vilka enheter den ska köra data på. I bakgrunden kan du alltså i princip köra elak kod och rendera en infektion i en organisation, säger Diego Lopez och fortsätter:

– Det är ingen sårbarhet egentligen. Det är AI som gör det den ska göra, samtidigt som en människa är smart nog att utnyttja dess uppdrag eller uppgift.

Gör förarbetet ordentligt

Man bör inleda sitt arbete i andra änden. Istället för att fokusera på vad tekniken kan göra och lära sig av de misstag man gör så borde man arbeta för att inte göra misstagen alls, menar Diego Lopez.

– Jag tror det var Einstein som sade att smarta människor löser problem, och genier undviker dem. Lite så är det i säkerhetsbranschen.

En del i att börja i rätt ände innebär således att göra förarbetet för att undvika misstagen. För att göra saken ännu lite tydligare tar Diego Lopez med oss på en vandring genom historiens olika byggtekniker.

Han berättar att vi för riktigt länge sedan byggde hus utan fönster. Det var varmt på vintern men vid brand upptäcktes bristerna. Det blev svårt, för att inte säga omöjligt, att hinna ut i tid. Därför byggdes senare små fönster in, men kanske inte tillräckligt många. Nu har vi genomtänkta utrymningsvägar vilket innebär att vi kan ta oss ut om något skulle hända. På liknande sätt, fast i ett högre tempo, menar Lopez att man numera arbetar med AI. Problemet är bara att man mellan försöken inte alltid gör hemläxan.

– Vi spiller data och har sett, både med Miljödata och Sportadmin, att det kan gå illa. Därför behöver vi mitigera problemet innan det sker, påminner Diego Lopez.

Återigen, gör förarbetet ordentligt. Och som Einstein sade, genier undviker problemen.

– Jag tror att det viktigaste är att göra ett ordentligt grundarbete. En quick fix som många företag verkar tro på är att AI kommer att kategorisera data åt oss, vilket den i och för sig gör. Problemet är att den läser allt, säger Diego Lopez.

IT-chefens uppdrag

Dessutom behöver det inte nödvändigtvis bli billigare att använda sig av AI. Det kostar exempelvis att köpa in program. Dessutom kan det bli kostsamt om man inte vet exakt vad AI ska kunna skapa åt dig. Då tvingas ofta människor sitta och kontrollera uppgifterna i efterhand ändå.

– Det jobbet som vi människor inte har velat, kunnat eller haft råd att göra tror vi nu att AI ska göra åt oss, menar Diego Lopez.

Hur kan en IT-chef säkerställa att både utvecklings- och säkerhetsteam drar åt samma håll i AI-projekt?

– Jag tror det handlar om att ta sig tid och fundera över vad det är man vill åstadkomma. Man ska anamma teknologin men måste ändå börja försiktigt.

– För tillfället brukar det låta så här: Vad ska vi ha? Vi ska ha AI. När ska vi ha det? Vi ska ha det nu. Vad ska vi ha det till? Jag vet inte.