Inga produkter i varukorgen.
Sanningen är under attack – 3 steg för att bygga digital tillit
CYBERSÄKERHET Sanningen är under attack. Myndigheter kommer att behöva etablera särskilda funktioner för digital tillit för att möta hotet från deepfakes enligt ny prognos från Gartner.
Foto: Adobe Stock
”Deepfakes” har seglat upp som ett allt mer akut problem för offentliga aktörer. AI-klonade röster och falska myndighetsportaler rubbar den digitala tilliten och orsakar problem med allt från id-hantering till ryktesspridning.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
– Om medborgare inte längre kan skilja mellan ett äkta uttalande från en statsminister och en förfalskning, eller mellan en riktig myndighetsportal och en kopia, riskerar själva sanningsarkitekturen att kollapsa, säger Daniel Nieto, senior analytiker på Gartner i ett pressmeddelande.
Deepfake-angriparna kan ta sig in i system genom att rikta in sig på biometrisk autentisering, som röst- och ansiktsigenkänning. Eller genomföra social engineering-attacker mot anställda. Illvilliga rykten och falska uttalanden kan spridas och få fäste via fejkkampanjer som imiterar ledare och politiker.
Fyra av tio behöver bygga upp digital tilllit
Gartner bedömer att fyra av tio offentliga organisationer kommer att behöva bygga upp särskilda funktioner för digital tillit – så kallade Trustops– för att ta itu med problemen. Det blir delvis en fråga för it-chefen.
Men inte bara. Digital tillit är ingen isolerad it-fråga, utan en tvärfunktionell utmaning som kräver samordning på ledningsnivå. Därtill krävs långsiktig utbildning av både anställda och allmänheten.
Kombinationen av sociala medier och syntetiskt AI-genererat innehåll kräver ett samordnat, snabbt och verksamhetsövergripande försvar.
Deepfake-fenomenet riskerar också att driva fram en ”digital regression”.
– Nyttan av digitalisering riskerar att gå förlorad eftersom organisationer blir tvungna att återgå till manuella processer, pappershantering och fysiska möten, säger Nieto.
Så bör myndigheter förbereda sig
Framförhållning är avgörande, det duger inte att försöka få bort falskt innehåll i efterhand. När en deepfake väl blivit viral är skadan skedd.
– Organisationer måste i stället fylla informationsutrymmet med korrekt information först, konstaterar Daniel Nieto.
Men det går inte att lägga allt för stort ansvar på individen. Även om utbildning är viktig behöver verifiering i högre grad vara inbyggt i infrastrukturen, genom kryptografisk spårbarhet och innehållsverifiering.
Gartner pekar på standarder som C2PA, som gör det möjligt att bädda in kryptografisk metadata i digitalt innehåll för att säkerställa ursprung och autenticitet.
Tre prioriteringar på kort sikt
- Skapa ett trust council
En tvärfunktionell styrgrupp med it, juridik, kommunikation och hr som ansvarar för frågor om digital identitet och desinformation. - Säkra affärsprocesserna
Granska processer med hög risk, exempelvis ekonomiska utbetalningar, och inför stark autentisering och flera godkännanden för att minska risken för AI-baserade bedrägerier. - Inför rutiner för verifiering av deepfakes
Inför standardiserade arbetssätt för att identifiera och hantera misstänkt AI-genererat innehåll.
