Inga produkter i varukorgen.
”Barnen tror att jag är jultomten – och allt är AI:s fel”
krönika Dagens AI-modeller håller fantastiskt hög kvalitet men vi får inte glömma bort att de är långt ifrån felfria. Det blev Mats Stålbröst påmind om när han plötsligt började få telefonsamtal som egentligen skulle till jultomten.
Allt började egentligen redan inför förra julen. Jag började plötsligt få flera oväntade telefonsamtal från barn som undrade om jag var jultomten. Jag har visserligen tagit på mig några hedervärda tomteuppdrag genom åren, men jag kopplade snabbt telefonsamtalen till en artikel som en av mina kollegor på Techtidningen skrivit.
Det svenska företaget Real Talk hade nämligen lanserat en AI-jultomte som man kunde ringa upp för att få julklappstips – ett oerhört smart marknadsföringsdrag, för vem vill inte växla några ord med en fryntlig AI-tomte som dessutom låter väldigt mänsklig?
Jag fann det lite märkligt att de som hittat artikeln valt att ringa mitt telefonnummer, som inte syntes i artikeln, utan endast på en undersida med redaktionens kontaktuppgifter. Men julen passerade och samtalen till tomten slutade komma.
Men säg det lugn som varar för evigt. Nu är det 2026 och problemet har kommit tillbaka. Och det med “a vengeance” som man brukar säga i Hollywood. Den senaste veckan har jag nämligen blivit uppringd av flera för mig okända nummer, och i andra änden finns det barn i varierande åldrar som frågar efter jultomten.
Frågan blev alltså plötsligt aktuell igen: hur kommer det sig att de tror att mitt telefonnummer leder till jultomten? Men så i ett samtal, där luren lämnades över till barnets pappa, kom förklaringen. ”Vi använde oss av AI-sök för att hitta jultomtens nummer”. Och enligt AI-sök är det alltså mitt nummer som leder till jultomten.
När Nvidias vd Jensen Huang nyligen besökte Stockholm ställde SVT:s reporter Alexander Norén frågan vad som krävdes för att han skulle trampa på bromspedalen i AI-racet nu när AI visat sig vara ett potentiellt cybersäkerhetshot.
Jensen Huang lyfte ChatGPT som ett exempel
Jensen svarade att han ville fortsätta att accelerera utvecklingen och att just säkerheten var en viktig del av det som måste och kan förbättras. Han exemplifierade med ChatGPT, som vid lanseringen var en ganska dålig tjänst med stora problem med hallucinationer, men som nu hade lyckats lösa dessa problem.
Jag tror att den bilden, att AI-hallucinationer är ett minne blott, delas av många som använder generativ AI. Och visst har träffsäkerheten blivit bättre och de värsta hallucinationerna minskat i antal. Men det återstår fortfarande åtskilliga felaktigheter, som dessutom är betydligt svårare att upptäcka och korrigera. Det kan handla om felaktiga årtal, paragrafer i lagar som ändrats och … telefonnummer till jultomten.
AA-Omniscience, som tagits fram av Artificial Analysis, används för att benchmarka olika AI-modeller genom att helt enkelt be dem besvara 6000 frågeställningar. Och här framgår det med all tydlighet att hallucinationer fortfarande hösten 2026 är ett reellt problem, även om en del modeller faktiskt blivit bättre på att våga erkänna när de inte har ett svar på frågan.
Men, tillbaka till mitt och jultomtens telefonnummer. Med tanke på att det fortfarande är långt kvar till jul så bävar jag inför den potentiella anstormning som nu väntar. Jag bedömer att mina möjligheter att hitta ett sätt att göra sorti från de hallucinerande AI-sökresultaten är mikroskopiska, så kanske får jag önska mig ett nytt telefonnummer i julklapp.
