Kostnaden för att använda stora språkmodeller väntas falla kraftigt de kommande åren. Enligt Gartner kommer kostnaden för generativa AI-leverantörer att vara mer än 90 procent lägre år 2030 än 2025 för en modell med en biljon parametrar.
AI-kostnader kan falla med över 90 procent till 2030
affärer Servicenow köper cybersäkerhetsbolaget Armis för 7,75 miljarder dollar i en affär som ska stärka bolagets position inom säkerhet, riskhantering och cyber exposure management. Med förvärvet vill Servicenow ge kunder bättre överblick över tillgångar, sårbarheter och risker i allt från it- och ot-miljöer till medicintekniska system.

Någonting är fel
Läs vidare – starta din prenumeration
Analysföretaget tror också att språkmodeller av den storleken kan bli upp till 100 gånger mer kostnadseffektiva än de tidiga modeller av liknande storlek som utvecklades 2022. Drivkrafterna är enligt Gartner effektivare halvledare och infrastruktur, bättre modellarkitektur, högre chiputnyttjande samt ökad användning av specialiserade AI-kretsar och edge-enheter.
Men lägre kostnad per token betyder inte automatiskt att avancerad AI blir billig för företag att använda. Gartner pekar på att mer avancerade och agentiska modeller kräver betydligt fler tokens per uppgift än dagens vanliga chattbotar. Därmed kan den totala inferenskostnaden ändå stiga.
