Hybriditys AI-chef: ”Det finns väldigt mycket skrämselnarrativ där ute”

– Strax efter att vi vi var klara släpptes ChatGPT och då vaknade världen upp till den här nya verkligheten. Folk började själva använda AI-modellerna och de fick en otrolig spridning. Av olika anledningar lyckades inte vi skapa rätt förutsättningar för finansieringen för att kunna tävla med de största amerikanska företagen som utvecklar språkmodeller. En anledning till det var de regulationer som vi har inom EU, alltifrån upphovsrätt till GDPR och nu även datalagstiftning.

Medan AI Sweden arbetade med att utveckla själva språkmodellerna, ska Hybridity använda AI för att lösa ett mycket konkret verksamhetsproblem. Bolagets plattform HY5 beskrivs som ett system för att automatisera operativt compliance-arbete genom att koppla samman regelverk och interna kontrollfunktioner i ett och samma flöde.

Ariel Ekgren berättar att dagens AI-teknik är oerhört kraftfull men även den senaste tekniken för generativ AI har sina brister om den ska användas i affärskritiska miljöer. I hårt reglerade branscher räcker det inte att få ett svar som låter rimligt. Det måste gå att validera, upprepa och förstå varför systemet landar i just det svaret.

Byggs för en framtid där AI-agenter blir användare

Hybridity är en SaaS-tjänst för regelefterlevnad som har två tydliga lager. Det ena är AI:n inuti systemet, som kan läsa lagar, regelverk och dokument och till exempel göra gapanalyser när ett kontrakt laddas upp. Det andra är att plattformen också byggs för en framtid där andra AI-agenter ska kunna använda den, med rättigheter, spårbarhet och kontroll på plats.

– Vi ser en framtid där både privatpersoner och företag kommer att ha egna AI-agenter som de pratar med via Messenger, Teams eller Slack. Vår plattform kommer även kunna användas av agenter, med alla de rättigheter och den spårbarhet som en seriös företagsplattform kräver.

Compliance är ett arbetsintensivt och resursslukande område eftersom det ställer krav på att organisationer samlar in information, dokumenterar åtgärder, granskar resultat och säkerställer att verkligheten motsvarar det som har utlovats. Här ser Ariel Ekgren att AI kan frigöra tid och resurser.

– Det finns olika regelverk som träffar olika typer av företag, och man måste också kunna visa vad de betyder i praktiken. Inom it-säkerhet kan det till exempel handla om att göra ett penetrationstest. Därefter behöver man analysera resultatet och bedöma om de säkerhetsåtgärder man har på plats faktiskt uppfyller kraven i regelverket. För de allra flesta är det ju inte en dröm att sitta och samla in underlag och göra det här pappersarbetet.

När nya och skärpta regelverk som NIS2 och Dora sammanfaller med ett snabbt växande AI-intresse uppstår ett tryck på organisationer att både bli mer effektiva och mer strukturerade. Det gäller inte minst större företag och finansiella institutioner där kraven ofta påverkar många många roller samtidigt.

– Det är inte bara en person som är complianceansvarig, utan det berör olika positioner i hela företaget. Där ser vi att AI verkligen kan hjälpa till att samla in den här informationen, säger Ariel Ekgren.

Kan ibland ge helt fel svar

Ariel Ekgren ser att generativ AI i dag ibland används utan tillräcklig förståelse för teknikens begränsningar. Dels handlar det om att modellerna i grunden är statistiska, vilket betyder att de ibland kan ge helt fel svar. Dels handlar det om säkerhetsfrågor, som vart information skickas och hur data hanteras.

Trots den varningen är hans grundhållning inte alarmistisk. Tvärtom betonar han vikten av att inte fastna i skrämselbilder men det gäller att förstå riskerna, bygga rätt kontrollmekanismer och våga prova sig fram. Den snabba utvecklingen gör också att företag inte bör låsa sig vid en enda sanning eller ett enda verktyg.

– Det finns väldigt mycket skrämselnarrativ där ute, och jag tror att en anledning till det är att det är lätt att sälja. Jag är absolut inte orolig för någon sån här undergång. Så undvik skrämselnarrativen och testa mycket men var medveten om klassiska it-risker. Man ska inte skicka data till okända platser och så vidare.

I förlängningen pekar rekryteringen också på en bredare fråga för många verksamheter: hur AI ska organiseras och ledas när tekniken går från experiment till kärnprocess. Ariel Ekgren tror inte att en chief AI officer blir självskriven i varje organisation, men han ser det inte heller som en orimlig utveckling. För företag som verkar i den digitala världen blir det allt svårare att stå vid sidan av.

– Jag tror inte att det är en orimlig utveckling. Det skulle också kunna hamna under it-avdelningen, det beror på hur man väljer att bygga sin organisation. Men alla företag som i någon mån jobbar med den digitala världen bör omfamna den här utvecklingen, säger Ariel Ekgren.