Inga produkter i varukorgen.
”Skydd mot AI-manipulation handlar om mänskliga beteenden”
krönika AI skapar nya möjligheter för kreativitet och effektivitet men samma teknik används också av kriminella för att manipulera, lura och bedra. För att stå emot krävs inte bara tekniska lösningar utan också något mer grundläggande: ett starkare mänskligt säkerhetsbeteende, skriver Niklas Rosén och William Friman i en krönika.
Niklas Rosén (t.h.), Director of Content, Junglemap & William Friman, COO och medgrundare av Walma AI.
Vi möts dagligen, ibland utan att veta det, av AI-genererat innehåll i texter, bilder videor och kloner av personer. Ofta så välgjorda att det är svårt att skilja på verklighet och AI. Både kreativiteten och produktiviteten flödar. Vilket är bra! Vi vet att AI mer och mer kommer kunna hjälpa oss både på jobbet och privat, och samtidigt hitta nya sätt att använda tekniken på.
Tyvärr finns det även risker med AI när tekniken används till AI-manipulation av kriminella. Idag kan de använda AI bland annat för att analysera information och kartlägga verksamheter och anställda för att lyckas med sina bedrägerier. Genom att låta AI ta del av bland annat mejl, inlägg i sociala medier och intervjuer i poddar kan kriminella imitera någon, vinna förtroende och på så vis lura oss.
Frågan är hur vi ska skydda oss mot något som känns helt trovärdiga, som hyperrealistiska deepfakes i form av AI-röster och videor?
Vi tror att det bästa sättet att bygga upp skyddet mot AI-manipulation är genom att höja medvetenheten hos alla som jobbar i en organisation. Cybersäkerhet, AI-driven eller inte, har aldrig varit någon IT-fråga och ingen organisation är starkare än sin svagaste länk. Vi måste helt enkelt börja möta high tech med mer low tech, och stärka våra mänskliga säkerhetsbeteenden.
I grunden handlar det här om att:
• Lära oss mer om AI och hur AI-manipulation kan gå till i flera steg
• Använda goda vanor och beteenden för att minska vår sårbarhet.
Ett första generellt kunskapslyft om AI är enkelt, men AI är ett ämne som kräver ständig uppdatering. Det svåra är att förändra våra inarbetade beteendemönster.
För oavsett om social manipulation är skapad av AI eller inte tar den fasta på våra kanske mest mänskliga (och positiva) beteenden och egenskaper: att vara en god kollega, att vilja hjälpa till, att lösa saker snabbt och att bli sedd.
När vi får ett phishing-mejl så är vår första impuls att agera på direkten. Det vi behöver bli bättre på är att reflektera. Att stanna upp, tänka efter, fråga någon och sedan reagera på något som avviker.
Det här behöver vi träna på. Året runt.
Niklas Rosén, Director of Content, Junglemap & William Friman, COO och medgrundare av Walma AI
