Dyrare att prompta på svenska: ”Man kan lätt bli lurad”

För den som jämför modeller kan det bli en miss i kalkylen. Ett lågt pris per miljon tokens ser bra ut på prislistan. Men behöver modellen fler tokens för samma svenska text krymper en del av försprånget.

– Ofta pratar man om att de här kinesiska modellerna är mycket billigare. Men det är bara delvis sant, säger Niklas Silfverström och fortsätter:

– Man kan lätt bli lurad av det, säger han.

Engelskan får fler genvägar

Klang har jämfört omkring 3 000 meningar med samma innehåll på engelska, svenska, norska, danska och finska. Texterna hämtades från två offentliga forskningsunderlag. I samtliga undersökta modeller krävde svenska fler tokens än engelska.

Förklaringen finns i hur texten delas upp. En token kan vara ett helt ord, en del av ett ord eller ett skiljetecken. Uppdelningen görs av en så kallad tokenizer, som använder ett bestämt förråd av textbitar.

Niklas Silfverström beskriver det som att vanliga ord får genvägar. De finns med som hela enheter, medan andra ord måste plockas isär. Engelskan får fler sådana genvägar eftersom språket dominerar i träningsmaterialet, förklarar han.

– Det handlar om att det är jättemycket träningsdata på engelska och väldigt lite träningsdata på svenska.

Det är alltså inte nödvändigtvis längden på texten som gör svenskan dyrare. I Klangs underlag var svenska och engelska nästan lika långa räknat i tecken.

Att språken behandlas olika är känt sedan tidigare. Det som förvånar honom är hur mycket av skillnaden som finns kvar.

– Det har funnits den här typen av tokenproblem. Men det som är intressant är att det inte har hänt så mycket de senaste åren, säger han.

Här är svenskans påslag störst

I ett av textunderlagen behöver Claude Opus 5.5 omkring en tredjedel fler tokens för svenska än för engelska. För Kimi K3.1 Pro är påslaget ungefär två tredjedelar.

En modell med ett stort svenskt påslag kan fortfarande vara billigast om tokenpriset är tillräckligt lågt. För en hel arbetsuppgift spelar också svarets längd och de olika priserna för indata och utdata roll.

Skillnaden berör framför allt företag som betalar efter förbrukning. Den som har ett abonnemang med fast pris får inte automatiskt en högre månadsavgift för att frågorna ställs på svenska.

Dokumenten är fortfarande på svenska

Går det då att komma billigare undan genom att skriva instruktionerna på engelska? Till viss del, men svenska underlag blir kvar som en kostnad.

– Vi skickar in väldigt mycket input tokens, alltså vi har kanske texter på svenska eller transkriberingar på svenska. Och det kommer du inte undan, säger Niklas Silfverström.

En engelsk instruktion ändrar inte språket i transkriberingen som ska sammanfattas. Den måste fortfarande delas upp i tokens och bearbetas. När mängden text växer blir merkostnaden kännbar, säger han.

Att först översätta allt till engelska skulle kunna minska tokenförbrukningen i nästa steg. Men Niklas Silfverström ser en risk att nyanser går förlorade på vägen. Då riskerar besparingen att gå ut över kvaliteten.

Nordiska modeller för vardagsjobben

Han tror att språkets påslag kommer att bestå även när de stora modellerna utvecklas. Därför vill han se fler nordiska alternativ.

Öppna modeller skulle kunna byggas om och anpassas bättre till nordiska språk, med ett vokabulär som ger effektivare textuppdelning. Det ser han som en möjlighet för nordiska utvecklare.

På kortare sikt tror han på att kombinera modeller. En billigare nordisk modell skulle få sköta återkommande uppgifter, medan större och dyrare modeller används för mer krävande resonemang.

– Låt säga att du ska summera ett dokument. Det kan en billig modell faktiskt göra lika bra.