Google Cloud öppnar för användningsbaserad betalning av AI agenter

AI Google Cloud inför en ny betalningsmodell för Gemini Enterprise där företag kan betala utifrån faktisk användning av AI agenter. Enligt Per Gustafsson, Managing Director på Google Cloud i Norden, ska modellen göra det lättare att testa och skala agentbaserade arbetsflöden utan fasta licenser per användare.

Google Cloud öppnar för användningsbaserad betalning av AI agenter
Per Gustafsson | Foto: Adobe Stock och Pressbild

Tidigare har Gemini Enterprise främst erbjudits genom fasta månatliga prenumerationer per användare. Nu introduceras en särskild pay as you go modell för Gemini Enterprise appen utan inträdesavgift.

Någonting är fel

Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.

Det innebär att organisationer kan betala för den beräkningskapacitet och de tokens som faktiskt används.

Enligt Per Gustafsson är skillnaden mot tidigare att modellen riktas specifikt mot Gemini Enterprise och agentbaserade arbetsbelastningar.

– Även om användningsbaserad prissättning länge har funnits för Google Clouds API för grundmodeller, är det nya nu en dedikerad pay as you go modell för Gemini Enterprise appen utan inträdesavgift, kombinerad med samlade kvoter över affärs och utvecklarverktyg som Google Antigravity, säger han till Techtidningen.

Ska passa ojämn AI användning

Google Clouds argument är att AI användningen inom företag inte längre följer samma mönster som traditionell programvaruanvändning. En del medarbetare använder AI löpande i produktivitetsverktyg. Andra team, till exempel utvecklare, kan ha mer ojämna behov när AI agenter används inför en release, för testning eller i större bakgrundskörningar.

För dessa scenarier ska användningsbaserad betalning minska risken att företag betalar för licenser som inte används under stora delar av året.

– Pay as you go passar bäst för ingenjörsteam, AI utvecklare och projektbaserade grupper som kör intermittenta eller cykliska agentarbetsbelastningar, säger Per Gustafsson.

Han lyfter som exempel ett utvecklingsteam som kör intensiv automatiserad kodtestning under en vecka före en större release, men inte behöver samma kapacitet under resten av året.

Fasta användarlicenser ska däremot fortsatt vara mest relevanta för kunskapsarbetare som använder chatt, sökning och dokumentskapande varje dag. För organisationer med mer stabil AI trafik finns även Flexible Savings Plans, där ett åtagande om viss månatlig användning kan ge 10 till 20 procent lägre tokenkostnader.

Kostnaden beror på modell och användning

En central fråga för IT chefer blir hur kostnaden för en AI agent faktiskt uppstår. Enligt Google Cloud beräknas den utifrån flera separata mätvärden snarare än som en fast avgift.

Inmatnings och utmatningstokens mäts utifrån vilken modell som används. Enklare steg kan styras till lättare modeller som Gemini Flash, medan mer komplexa resonemang kan använda Gemini Pro.

Även externa API anrop, exempelvis grounding med Google Sök, och körtidsresurser för tillståndskänsliga agentmiljöer och kodexekvering debiteras utifrån faktisk användning.

Återanvända prompter och bakgrundskontexter kan enligt Google Cloud dra nytta av rabatter för context caching.

Det gör att modellval, agentdesign och styrning av arbetsflöden får direkt ekonomisk betydelse. En agent som kör många steg, använder en dyrare modell eller gör externa API anrop kan därmed få en annan kostnadsprofil än en enklare agent med begränsad uppgift.

Budgettak ska stoppa kostnadsrusningar

Pay as you go kan sänka tröskeln för AI användning, men den kan också göra kostnader svårare att förutse om användningen växer snabbt eller om en agent kör fler steg än väntat.

Google Cloud lyfter därför fram flera tekniska kontroller. Utvecklare ska kunna sätta exekveringsgränser, till exempel maximalt antal iterationer, sessionstimeouts och rekursionstak, för att stoppa oavsiktliga loopar.

I Google Cloud Billing finns även avvikelsedetektering som ska flagga ovanliga kostnadsökningar och visa vilka tjänster som driver kostnaden.

Organisationer kan dessutom sätta fasta månatliga kostnadstak på projektnivå. När ett projekt når sitt tak pausas enligt Per Gustafsson alla agentrelaterade AI API anrop och överskridanden automatiskt inom några minuter.

– Detta förhindrar oväntade budgetöverskridanden samtidigt som resten av kundens produktionsinfrastruktur i molnet fortsätter att fungera normalt, säger han.

Faktureringsadministratörer och projektägare får e postaviseringar när 50, 80 och 100 procent av budgettaket har nåtts. Utvecklare och slutanvändare ska samtidigt få meddelanden om kvotgränser i sina arbetsmiljöer. Administratörer kan därefter återuppta aktiviteten i konsolen om arbetet behöver fortsätta.

Lanseras först till utvalda kunder

Pay as you go utgåvan av Gemini Enterprise är vid lansering tillgänglig för en utvald grupp pilotkunder. Enligt Google Cloud gäller utrullningsplanen globalt, inklusive svenska företagskunder, men någon exakt tidpunkt för bred tillgänglighet anges inte i svaren.

Svenska organisationer med befintliga Google Cloud Enterprise Agreements ska däremot redan nu kunna använda Flexible Savings Plans och få tillgång till samlade kostnadskontroller i Google Cloud-konsolen.

Google Cloud planerar även prissättning för så kallad deferred execution. Där icke brådskande agentbaserade arbetsbelastningar kan köras senare när kapacitetsutnyttjandet är lägre. Enligt bolaget kan det ge upp till halva inferenskostnaden för vissa arbetsbelastningar, men funktionen beskrivs som kommande.

Ska koppla AI kostnader till nytta

För IT ledare räcker det inte att veta vad AI kostar. Kostnaden behöver också kunna kopplas till verksamhetsnytta.

Enligt Per Gustafsson ger Gemini Enterprise detaljerad kostnadsallokering i Google Cloud Billing, där utgifter kan brytas ner per projekt, avdelning, funktion och modell SKU. Det finns också en integrerad FinOps agent som ska kunna sammanfatta kostnadsdrivare på naturligt språk för ledningsgrupper.

Google Cloud menar att dessa data kan kopplas till operativ telemetri från agentplattformen för att mäta effekter som kortare handläggningstider i kundärenden, snabbare kodgranskning eller större volymer av automatiserad dokumenthantering.

För svenska IT chefer blir den praktiska frågan hur väl den kopplingen fungerar i den egna organisationen. Kostnadsmodellen kan ge större flexibilitet, men ställer samtidigt högre krav på styrning, projektstruktur, modellval och löpande uppföljning.

Senaste artiklarna

Hämtar fler artiklar
Till startsidan
Techtidningen

Techtidningen Premium

Nyhetstjänsten för dig som jobbar med professionell kommunikation. Få nischade nyhetsbrev för ditt intresseområde och utbildnings-tv.