Lovables säkerhetschef om vibekodning: ”Dagarna är räknade”

– När riktig mjukvara möter riktiga användare på internet blir säkerhet en del av själva produkten, säger Lovables säkerhetschef Igor Andriushchenko till Techtidningen.

Ny certifiering för AI-agenter

Lovable har nyligen certifierats enligt AIUC-1, en standard med kontroller för AI-agenter.

Igor Andriushchenko beskriver certifieringen som ett sätt att möta de nya krav som uppstår när AI-agenter själva producerar kod och produkter förändras snabbt.

– Hur mäter man om en kodagent är tillräckligt säker för att sättas framför miljontals människor? Det är en av frågorna som AIUC försöker besvara.

Standarden omfattar enligt honom bland annat kontroller av kodgenerering, miljön där koden körs och hanteringen av känsliga uppgifter som API-nycklar och andra autentiseringsuppgifter.

En viktig skillnad jämfört med traditionella revisioner är, enligt Igor Andriushchenko, att delar av kontrollerna kan genomföras direkt mot AI-agenten.

– Det handlar inte bara om att revisorer går igenom skärmdumpar som företaget skickar in. De kan interagera med agenten och kontrollera resultatet med kod.

Han menar att det blir särskilt viktigt när AI-produkter förändras i takt med att nya modeller och funktioner läggs till.

– Vi behöver andra verktyg för att säkerställa att agenten fortsätter att vara säker och uppfylla kraven.

AI stärker även angriparna

Certifieringen är dock bara en del av den större förskjutning som han ser framför sig. Samma teknik som sänker tröskeln för att bygga mjukvara håller också på att stärka angriparnas möjligheter.

Han pekar på hur avancerade modeller kan arbeta sig igenom en rad mindre svagheter och kombinera dem för att nå ett större mål.

– En svaghet kanske inte ser särskilt allvarlig ut. Men AI kan hitta en andra, en tredje och en fjärde och kedja dem tills den når sitt mål.

Igor Andriushchenko räknar med att den typen av kapacitet kommer att bli tillgänglig för betydligt fler aktörer.

– Vi står inför mycket avancerade angripare som med hjälp av AI kan arbeta utan samma begränsningar i tid, kunskap och uthållighet som tidigare.

Det höjer samtidigt kraven på försvarssidan.

– Säkerhetsnivån måste bli mycket högre än tidigare och den måste valideras kontinuerligt.

Enligt honom blir förmågan att snabbt hitta, prioritera och åtgärda sårbarheter allt viktigare. Samtidigt ser han AI som en del av lösningen.

Genom att väga samman information från kod, dokumentation och utvecklingsarbete kan AI enligt honom hjälpa säkerhetsteam att prioritera brister och föreslå åtgärder.

– Tiden till patch måste minska kraftigt eftersom tiden till exploatering går åt andra hållet.

Därför skaver ”vibekodning”

Parallellt med utvecklingen har begreppet ”vibekodning” fått stort genomslag. Det innebär att beskriva vad man vill skapa och låta AI ta hand om stora delar av programmeringen.

Igor Andriushchenko är kluven till termen.

– Jag tycker att den både är hjälpsam och inte. Den beskriver vad som händer, men underskattar samtidigt lite vad användaren faktiskt skapar.

För honom är den större förändringen att människor som tidigare saknat programmeringskunskaper får möjlighet att skapa egna digitala produkter.

– För mig handlar det om skapande. Om att låta människor förverkliga sina idéer digitalt.

Han tror också att ”vibekodning” så småningom kommer att ersättas av ett annat begrepp.

– Jag tror att vibekodning har sina dagar räknade. Det kommer sannolikt ett bättre begrepp.

Men när mjukvaruutveckling inte längre är förbehållen specialister förändras också frågan om ansvar. Hur mycket säkerhetskunskap går egentligen att kräva av den som bara vill få en idé att fungera?

Igor Andriushchenkos svar är att betydligt mer ansvar behöver flyttas till plattformarna.

Visionen: mjukvara som skyddar sig själv

Användaren ska inte behöva förstå tekniska begrepp som cross-site scripting eller avancerade behörighetsproblem för att kunna bygga en säker applikation, resonerar Igor Andriushchenko.

På sikt vill han gå betydligt längre.

– Min starka övertygelse är att vi kommer att nå en nivå där människor inte behöver tänka på säkerhet på det sättet. Vi vill att mjukvara ska kunna skydda sig själv.

Lovable använder redan olika former av skanning och automatisk korrigering av säkerhetsproblem, enligt Igor Andriushchenko. Ambitionen är att automatisera en allt större del av arbetet.

Men det finns en gräns.

En säkerhetsåtgärd kan samtidigt förändra hur en applikation beter sig. Därför behöver användaren fortfarande vara involverad när säkerhet och produktval går in i varandra.

Om en sida ska vara offentlig eller privat är ett sådant exempel.

– Användaren ska behöva fatta produktbesluten. Det tekniska säkerhetsarbetet under det är sådant som plattformen i allt större utsträckning bör kunna ta hand om.

En sådan utveckling skulle samtidigt flytta en större del av säkerhetsansvaret från den enskilda utvecklaren till leverantörerna av AI-plattformar.

Det är också dit han vill att utvecklingen ska gå.

Rådet till CIO:er: försök inte stoppa utvecklingen

För CIO:er är frågan mindre visionär och betydligt mer praktisk. När verktygen redan finns inom räckhåll för medarbetarna handlar utmaningen om att skapa kontroll utan att kväva användningen.

Igor Andriushchenko tror därför att rena förbud är fel väg.

– Det första jag skulle säga är: försök inte bara stoppa det.

I stället bör it-ledningen skaffa sig insyn i hur verktygen används.

– Du behöver förstå vad människor bygger, vem som har tillgång till vad, vilka data som går in och ut och vad som publiceras på internet.

Det handlar också om att kunna upptäcka känsliga uppgifter i projekt och följa vad som händer i applikationerna.

– Styrning, kontroll och insyn blir centralt.

Igor Andriushchenko beskriver en utveckling där organisationer ofta börjar med prototyper, går vidare till interna verktyg och därefter börjar använda AI-byggda applikationer i produktion.

När användningen flyttar närmare verksamhetskritiska system behöver också kontrollerna anpassas efter organisationens egen riskaptit.

– Det största problemet är ofta det okända. Vad händer med min data? Vad händer om någon publicerar något utan granskning?

För CIO:er blir uppgiften därför att skapa insyn i vad som byggs och sätta gränser för hur tekniken får användas.

Att stoppa utvecklingen tror han inte är realistiskt.

– Tekniken är så kraftfull och lätt att använda att det blir väldigt svårt att hålla människor borta från den.