Google-chefen: ”Ibland är lokal AI-bearbetning det bästa valet”

– På Google Cloud ser vi att behoven varierar stort beroende på uppgift, därför erbjuder vi över 200 modeller i Vertex AI Model Garden, där man kan välja mellan egna modeller som Gemini och tredjepartsmodeller som Claude och Llama 3.2. Det gör det möjligt att matcha rätt modell med rätt syfte – vare sig det gäller textgenerering, kod eller bildbehandling. Många kunder väljer dessutom att finjustera modellerna eller använda grounding (en process där AI-modellen kopplas till referenspunkter så att modellens beteende blir mer verklighetsförankrat, reds anm) för att anpassa dem till sina specifika verksamhetsmål.

Hur vet man om AI-assistenten lever upp till organisationens säkerhetskrav?

– Säkerhet är alltid högsta prioritet hos Google. Våra AI-lösningar, som Gemini och Agentspace, är byggda med samma robusta säkerhetsarkitektur som resten av Google Cloud. Det innebär bland annat stöd för confidential computing, extern nyckelhantering och dataplacering inom specifika jurisdiktioner genom Google Cloud Data Boundary. Vi arbetar också enligt vårt Secure AI Framework (SAIF), som hjälper organisationer att utveckla och använda AI på ett säkert och transparent sätt.

Hur ska man se till att inte kostnaderna skjuter i höjden, och vad är viktigt att ha koll på när det gäller prismodeller?

– Vi förstår att kontroll över kostnaderna är avgörande, särskilt när man skalar upp användningen av AI. Därför har vi tagit fram flera verktyg och metoder som hjälper till med just det. Finops Hub i Google Cloud gör det enkelt att få insyn i användning och budget, medan vår prissättning för Vertex AI är transparent och skalbar. Det handlar också om att ha tydliga affärsmål och förstå hela livscykeln, från modellträning till drift, för att undvika oväntade kostnader.

Hur säkerställer man att man väljer en modell som inte hallucinerar?

– Hallucinationer är en utmaning i hela branschen. Vi jobbar aktivt med flera metoder för att minska detta. Ett av de mest effektiva sätten är grounding, till exempel med Retrieval-Augmented Generation (RAG), där modellen förankras i faktabaserade källor. Dessutom använder vi prompt engineering och andra tekniker för att styra modellen mot mer tillförlitliga svar, och våra verktyg för ansvarsfull AI hjälper utvecklare att följa bästa praxis.

När är det rätt tillfälle att välja lokal AI-bearbetning istället för en molnbaserad tjänst?

– Det finns situationer där lokal AI-bearbetning är det bästa valet – till exempel vid hantering av känsliga data, höga krav på låg latens eller behov av offlinekapacitet. För sådana scenarier erbjuder vi lösningar som Google Distributed Cloud och local LLM, som möjliggör drift av stora språkmodeller lokalt – till och med utan tillgång till GPU. Det ger organisationer den flexibilitet som krävs för att uppfylla både prestanda- och efterlevnadskrav, utan att kompromissa med funktionalitet.

– Google Cloud har även lång erfarenhet av att hjälpa kunder med lösningar för digital suveränitet. I nära samarbete med både offentlig och privat sektor har vi utvecklat tekniska lösningar som uppfyller Europas krav på dataskydd, transparens och kontroll.

Hur säkerställer man att AI-assistenten kan hjälpa till med systemutveckling och optimering av kod?

– Med Gemini Code Assist har vi utvecklat ett verktyg som verkligen är byggt för utvecklare. Det integreras direkt i IDE:er och kan hjälpa till med allt från kodkomplettering till dokumentation och optimering. Det är särskilt effektivt för organisationer som vill höja både kodkvalitet och produktivitet – utan att förlora kontrollen. Verktyget kan också anpassas till egna kodstandarder och interna bibliotek, vilket gör det till ett kraftfullt stöd i utvecklingsprocessen.