Inga produkter i varukorgen.
Så kan AI-sandlådor bli vägen ur pilotdöden
DIGITALISERING Känsliga data och brist på driftkompetens håller AI-projekt kvar i pilotstadiet, enligt Rises Conny Björnehall. Med slutna AI-sandlådor vill forskningsinstitutet hjälpa verksamheter vidare.
Kan AI sköta transkriberingen eller hjälpa till med anteckningar? För att få ett användbart svar behöver verksamheten kunna testa på sitt eget material. Men när uppgifterna är känsliga blir försöken ofta begränsade, enligt Conny Björnehall, fokusledare inom digitalisering och AI på Rise.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
Han möter organisationer som vill komma bort från piloter som aldrig leder vidare. De behöver kunna undersöka vad AI faktiskt klarar i arbetet, men fastnar i frågor om vilken information de får använda och var den hamnar.
– Det är där vi känner att många står och stampar idag, säger Conny Björnehall.
Rise börjar nu erbjuda AI-sandlådor för sådana tester. Det är slutna miljöer med öppna AI-modeller som körs på en eller flera servrar. Utrustningen kan stå i organisationens eget nätverk eller hos Rise, på servrar avsatta för kunden. Vid behov kan miljön köras helt utan internetanslutning.
Organisationen väljer modeller tillsammans med Rise och kan jämföra hur de fungerar på samma arbetsuppgifter. Målet är att få ett underlag för vilka modeller som passar, hur mycket datorkapacitet som behövs och om nyttan motiverar nästa steg.
Från Spark till större utrustning
På pressbilden håller Conny Björnehall i en liten Nvidia Spark. Men sandlådan är inte knuten till en viss dator. Han nämner också Dell-datorer och Nvidias H100, en grafikprocessor för bland annat AI-beräkningar. Utrustningen ska väljas efter vad verksamheten behöver testa.
– Vi ser ju mer AI-sandboxen som en funktion, inte kanske som en teknisk pryttel, även om den tekniska prylen är sjukt viktig i det här, säger Conny Björnehall.
Ambitionen är att erbjuda ett insteg från omkring 250 000 kronor. Priset beror på upplägget och lämnas enligt Rises tjänstesida vid offertförfrågan.
”Vi har ingen organisation för det”
Tillgången till en server löser dock inte alla problem. Enligt Conny Björnehall finns en stor efterfrågan på hjälp med att sätta upp miljön, använda öppna modeller och sköta drift och förvaltning.
Han beskriver frågor som kommer från offentlig sektor:
– Hur gör vi det här? Vi har ingen organisation för det.
Redan inför lanseringen har vissa verksamheter bett Rise att låta utrustningen stå kvar i forskningsinstitutets datacenter. De vill ansluta på ett säkert sätt, men saknar själva personal eller infrastruktur för att ta hand om utrustningen, enligt Conny Björnehall.
Rise ska stå för installation, utbildning och stöd under testperioden. Kunden behöver alltså inte börja med att köpa egen utrustning.
Om försöken faller väl ut kan verksamheten fortsätta använda miljön eller ta lösningen vidare till egen drift eller sin ordinarie driftpartner. Testerna ska ge underlag för det beslutet.
Kunden måste bedöma informationen
Att miljön är sluten betyder inte att alla uppgifter kan användas utan vidare. Bedömningen ligger kvar hos verksamheten.
– Ansvaret kommer ju alltid att ligga på den organisationen som använder lösningen. Det är de som gör den bedömningen, säger Conny Björnehall.
Han rekommenderar att organisationen går igenom vilken information som ska användas med sina informationssäkerhetsansvariga. Vård- och hälsodata är inte det material han tänker sig att man börjar med.
Rises erbjudande ska också skiljas från de regulatoriska AI-sandlådor där system utvecklas och testas under tillsyn. Här handlar det om en teknisk testmiljö. Att den kan köras offline ersätter inte verksamhetens bedömning av vad den får göra med uppgifterna.
