Databricks Nordenchef: ”CIO:n måste ta kommandot över AI”

Enligt Herman von Greiff är den kanske viktigaste förändringen inte själva genombrottet för generativ AI. I stället handlar det om hur tidigare separata datavärldar har börjat smälta samman. Databricks kom från big data, data lakes och stora mängder ostrukturerad information medan ndra plattformar hade sin utgångspunkt i strukturerad information och traditionella data warehouse. Under de senaste åren har de båda världarna närmat sig varandra.

– Det mest primära är att ostrukturerade och strukturerade data har gått ihop. Sedan kan man strö lite glitter på toppen med agenter, språkmodeller och allt det där, men i grunden är det den utvecklingen som har accelererat, säger Herman von Greiff till Techtidningen.

För företagen innebär det att behovet av flera separata dataplattformar minskar. Databricks kallar sin modell för lakehouse, där egenskaper från data lake och data warehouse kombineras.

Samtidigt som denna utveckling fortskrider har den snabba AI-utvecklingen förändrat värdet av företagens data. Generella språkmodeller saknar dock den interna kontext som gör informationen relevant för ett specifikt företag. Herman von Greiff ser hur allt fler företag vill kunna låta AI förstå verksamhetens egen information, processer och sammanhang.

– Alla vill prata med sin data och alla vill bygga något slags företagshjärna som förstår den egna kontexten. När du och jag pratar med ChatGPT förstår den internet, men den förstår inte djupa kontextuella data om ett specifikt företag.

Företag som tidigt började arbeta strukturerat med sin data har ett försprång i AI-utvecklingen. Men Herman von Greiff betonar att det finns möjligheter att komma ikapp. Den avgörande frågan blir vilken datagrund organisationen bygger och hur väl man lyckas få kontroll över informationen.

Bygger på användning av open source

En annan fråga som blivit allt viktigare för CIO:er är hur beroendet av olika leverantörer ska hanteras. Databricks har från början byggt mycket av sin position kring open source och möjligheten att arbeta över flera molnplattformar.

– Databricks var redan från början tydliga med att vi kommer att hålla fast vid open source-modellen och mot molnet. Den investeringen gjorde vi tidigt och den har burit frukt.

Friheten att använda olika lösningar skapar också ett behov av styrning. När antalet datakällor, AI-modeller och applikationer växer måste organisationen veta vilken information som finns, vem som får använda den och hur den används. Databricks lösning på detta heter Unity Catalog. Den ska ge kontroll över data och metadata, både i fråga om kvalitet och vem som har tillgång till vad.

Den kontrollen får ytterligare betydelse när AI-kostnaderna börjar växa. Generativ AI har gjort kostnadsfrågan mer komplicerad eftersom olika modeller kan ha olika pris, prestanda och lämplighet för olika uppgifter.

För CIO:n handlar det därför inte bara om att bestämma vilken AI-modell företaget ska använda. Frågan blir snarare vilka modeller som ska användas till vilka arbetsuppgifter och hur mycket olika delar av verksamheten får konsumera.

– Det är viktigt att man spenderar rätt kostnad på rätt sak. Vad ska vara open source-modeller och vilka modeller ska man betala för? Hur många tokens får du spendera? Behovet av att äga den kontrollen är helt central, konstaterar Herman von Greiff.

Samtidigt är det inte självklart att de största utmaningarna för dagens CIO:er återfinns i nya AI-projekt. Herman von Greiff pekar i stället på den befintliga it-miljön. Nästan alla organisationer har gamla system, integrationer och plattformar som måste hanteras. När nya AI-lösningar introduceras finns en risk att de bara läggs ovanpå befintliga system.

– Alla förstår behovet av att bygga framåt. Den större frågan är snarare hur man blir av med det man har i dag och accelererar ut ur en legacy-miljö. Det är den växlingen som är det svåra.

Här blir kopplingen mellan data och AI blir tydlig. För att AI-modeller och agenter ska kunna arbeta utifrån företagets information krävs att den faktiskt går att hitta, förstå och använda.

– Det är spännande att prata om AI-agenter som gör saker åt dig, men om man inte har byggt grunden är det väldigt svårt att få dem att arbeta för dig.

En annan aspekt av AI-tekniken är att den förändrar maktbalansen kring it. Investeringarna drivs inte längre enbart av it-avdelningen. Andra delar av organisationen vill själva utveckla och finansiera AI-lösningar. Det innebär en risk för att samma problem som tidigare uppstod med skugg-it nu återkommer i AI-form. Lokala verksamheter kan köpa tjänster, bygga egna lösningar och skapa nya datamiljöer utan att den centrala it-funktionen har full kontroll.

– Vi ser att it-avdelningen får hålla lampan tänd och sedan är det någon annan i verksamheten som tar AI-flaggan. Jag tror att det är ett misstag. Som CIO behöver man hålla ihop det och bygga funktioner eller tjänster ut mot verksamheten.

Måste se till att lösningarna hänger ihop

Det betyder inte att all innovation ska ske på it-avdelningen. Tvärtom behöver verksamheten vara involverad eftersom det är där många av de relevanta användningsfallen finns. Men CIO:n behöver enligt Herman von Greiff se till att lösningarna hänger ihop.

– Varje stort företags mardröm är skugg-it och det kommer alltid att finnas i någon form. Men man behöver minimera den mängd ute i verksamheten som man inte har kontroll över.

För att lyckas med AI-utvecklingen gäller det också att experimentera och våga testa saker. Herman von Greiff säger att Databricks aldrig har genomfört så många hackathons ute hos företag som nu. Men även här efterlyser han mer styrning. En helt fri innovationsmodell, där alla får testa vad de vill, är enligt honom inte nödvändigtvis det bästa sättet att skapa affärsvärde.

– Företagen förstår att de måste experimentera och hitta nytt. Men de som är duktiga är de som håller ihop det.

Han förespråkar istället att ledningen pekar ut ett eller ett par områden där organisationen vill gå på djupet. Det koncentrerar resurserna och gör det lättare att koppla experimenten till verkliga problem.

Ledningen behöver också själv delta. Ett för stort avstånd mellan de som förstår vad tekniken kan göra och de som fattar investeringsbesluten skapar problem.

När Herman von Greiff började på Databricks var AI i praktiken ofta synonymt med maskininlärning, ML. I dag har begreppet blivit betydligt bredare, men han menar att de företag som verkligen sticker ut inte nödvändigtvis är de som pratar mest om AI. Det avgörande är i stället om tekniken har tagit sig från experimentstadiet och in i företagets verkliga processer.

– De som får det här att lyfta har en genomtänkt strategi för hur de lyfter in data, hur de ska kunna prata med sin information, vilka modeller de vill skapa och vilket värde de ska driva.

Som exempel lyfter han företag som använder sin data för konkreta arbetsuppgifter: att fråga vad som sålts på en viss plats, bygga nya applikationer eller skapa funktioner direkt ut mot verksamheten.

Men utvecklingen går olika snabbt. Herman von Greiff tycker att svensk offentlig sektor har svårare att komma ur startblocken än motsvarande organisationer i flera andra nordiska och europeiska länder.

I det privata näringslivet är bilden annorlunda. Där menar han att i princip alla företag befinner sig på någon form av AI-resa, även om avståndet mellan experiment och verklig produktion fortfarande varierar stort.

För CIO:n blir utmaningen därmed dubbel. Dels måste det finnas tillräckligt med frihet för att verksamheten ska kunna hitta nya användningsområden. Dels krävs kontroll över data, modeller, kostnader och arkitektur.

Herman von Greiffs budskap är att börja med att ta kontroll över plattformen och informationen.

– Ta kontroll över din data och bygg en plattform. Det är där det startar. För om man inte har byggt grunden är det väldigt svårt att få någonting att arbeta för dig.