Inga produkter i varukorgen.
Stora språkmodeller kan underminera förtroendet för offentlig sektor
AI Trend Micro varnar för att stora språkmodeller kan leverera olika svar beroende på geografi, språk, censur och krav på datasuveränitet – även när de får exakt samma prompt. Något som kan undergräva förtroendet för offentlig sektor.
Foto: Adobe Stock
Detta resultat går att se i Trend Micros nya undersökning Risks of Unmanaged AI Reliance: Evaluating Regional Biases. Det undergrävda förtroendet riskeras om AI används utan tillräcklig styrning, verifiering och övervakning.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
Undersökningen bygger på tusentals upprepade tester av nära 100 olika AI-modeller. Den visar att inkonsekventa eller föråldrade svar kan förekomma i politiskt känsliga, regulatoriska och medborgarnära sammanhang.
Särskilt problematiskt är detta när AI används inom offentlig förvaltning, kommunikation eller beslutsstöd – där resultaten kan uppfattas som officiella ställningstaganden eller riktlinjer.
– Våra tester visar att AI-system kan återge inkonsekvent eller gammal information i politiskt känsliga, regulatoriska och medborgarorienterade scenarier. Det ökar risken att felaktig information presenteras och att förtroendet för företag och myndigheter urholkas när AI-resultatet tas för sant utan ordentlig verifiering, säger Martin Fribrock som är Sverigechef på Trend Micro.
”Antagandet stämmer inte”
Martin Fribock pekar även på att många organisationer har en förenklad syn på hur AI fungerar i praktiken.
– Många organisationer antar att AI fungerar som traditionell programvara, där samma indata ger samma utdata. Vår rapport visar att detta antagande inte stämmer. Stora språkmodeller kan ändra sina svar baserat på region, språk och säkerhetspolicyer, fortsätter Martin Fribrock.
– Företag behöver betrakta det som en högriskberoende, med tydlig styrning, ansvar och mänsklig verifiering för alla användarorienterade utdata. Det innebär också att man måste kräva transparens från AI-leverantörer om hur modellerna fungerar, vilka data de förlitar sig på och var begränsningar tillämpas.
Trend Micro betonar att AI har stor potential att driva innovation och effektivitet. Men bara om tekniken används med en realistisk förståelse för dess begränsningar och med kontroller som speglar hur systemen faktiskt beter sig i verkliga miljöer.
