Snowflakes CIO: ”AI-agenter kräver ett nytt säkerhetslager”

– Modeller ger dig inte säkerhet, governance eller compliance. De garanterar inte heller att svaret du får alltid är rätt, säger Mike Blandino när han står på scenen inför drygt 2000 it-ledare på 3arena i Stockholm.

Mike Blandina lyfter fyra centrala delar i Snowflakes syn på företags-AI: data och kontext, val av modeller, applikationer och ett kontrollager som ser till att hålla ihop helheten.

En av de största utmaningarna finns i företagens data. Problemet är enligt Mike Blandina ofta inte att AI-modellen är för dålig, utan att den får olika versioner av samma information från olika delar av verksamheten.

– Du kommer in i ett möte och fyra personer har fyra olika svar. Marknad, försäljning och ekonomi kan alla ha flera versioner av sanningen. Det är inte ett modellproblem, det är ett kontextproblem.

Snowflakes svar på dessa utmaningar är bland annat Horizon Catalog, som ska samla metadata, affärslogik och annat från data både inom och utanför Snowflakes plattform. Målet är att AI-system ska kunna förstå vilken information som ska användas i olika situationer.

Det blir särskilt viktigt när AI-agenter får större befogenheter. Mike Blandina beskriver problemet med dagens generativa AI-teknik som att den kan leverera både korrekta och felaktiga svar med samma självsäkerhet.

När det gäller modellvalet är Snowflakes strategi att kunderna inte ska behöva låsa sig till en viss modellleverantör. Olika modeller kan användas för olika uppgifter och kostnaden kan styras beroende på användningsfall.

– Det sista du vill göra är att använda en väldigt avancerad modell för att göra en enkel sökning. Det är ett fullständigt slöseri med tokens och pengar, förklarar Mike Blandina.

Det innebär att företagen behöver kunna sätta regler för vilka modeller som får användas, hur mycket ett visst användningsfall får kosta och när arbetsuppgifter helt enkelt ska styras över till billigare modeller.

– Governance handlar också om kostnader. Du måste kunna hantera kostnader, säkerhet, routing och metadata på samma ställe.

Samma resonemang gäller företagets befintliga applikationer. Mjukvarulösningar som Workday, Servicenow, Salesforce och andra affärssystem kommer enligt Mike Blandina inte att försvinna när AI-agenterna tar allt mer plats. Utmaningen blir i stället att koppla samman systemen utan att skapa nya kopior av data.

Snowflake satsar därför på så kallade zero copy-integrationer där data kan användas från olika system. Företaget har också byggt en gateway för MCP-servrar och API-anslutningar.

– MCP är ett fantastiskt protokoll och på många sätt protokollet för AI-eran. Men det finns ett skämt i Silicon Valley: vad står S:et för i MCP? Det finns inget S. Det står för security, berättar Mike Blandina.

Snowflakes eget kontrollager ska därför bland annat kunna ge AI-agenter egna identiteter samt hantera autentisering, behörigheter, kostnader och loggning.

Målet är att AI inte längre bara ska svara på frågor i ett chattfönster utan kunna agera i företagets system och genomföra arbetsuppgifter från början till slut. Mike Blandina pekar på Snowflakes verktyg Cowork och Coco som två delar av den utvecklingen. Cowork beskrivs som en personlig företagsagent för medarbetare medan Coco riktar sig till utvecklare och andra på företaget som bygger egna lösningar.

Internt har Snowflake testat hur långt det går att driva konceptet. En av Mike Blandinas kollegor fick under två veckor arbeta enbart i Cowork utan att öppna mejl, webbläsare eller andra system direkt.

– Han skapade alla Slack-meddelanden, all mejl och alla andra arbetsuppgifter genom Cowork. De första två dagarna var lite smärtsamma, men han överlevde.

När företag börjar införa agentisk AI är Mike Blandinas råd att inte börja med de mest avancerade projekten. Han förespråkar i stället enklare och återkommande arbetsuppgifter där nyttan snabbt kan visas.

– Börja inte med Mount Everest. Ta de användningsfall som står för 80 procent. Lös repetitiva uppgifter, publicera resultatet och låt det växa i organisationen.