Inga produkter i varukorgen.
AI-assistenten kan bli angriparens genväg in i företaget
cybersäkerhet Med AI i inkorgen har cyberangripare lagt till ännu ett vapen i sin arsenal. Cybersäkerhetsbolaget Barracuda Networks säkerhetsexperter har i ett experiment visat hur ett kapat medarbetarkonto kan leda vidare till vd:ns mejl – och ett bedrägeriförsök på 247 500 dollar.
AI-assistenter som är integrerade med företagens e-post, dokument och kalendrar kan innebära nya möjligheter även för angripare. Det visar ett proof-of-concept som genomförts av cybersäkerhetsföretaget Barracudas red team.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
I testet utgick säkerhetsexperterna från ett redan kapat medarbetarkonto med tillgång till Microsoft Copilot. AI-assistenten användes därefter för att söka igenom e-post, bilagor och kalenderinformation och kartlägga organisationen.
Nästa steg var att identifiera företagets vd som måltavla och använda information från medarbetarens konto för att skapa ett nätfiskemeddelande. Meddelandet kunde samtidigt anpassas efter hur den kapade användaren normalt skrev.
Hittade betalning på 247 500 dollar
Efter att även vd:ns konto hade kapats användes AI-assistenten för att söka efter ekonomisk information. Bland materialet hittades en väntande betalning på 247 500 dollar, liksom information om fakturor, banköverföringar och företagets rutiner för att godkänna betalningar.
Därefter skapades en begäran från vd:ns riktiga konto om att ändra mottagande bankkonto före överföringen.
Barracuda har ännu inte sett angripare använda AI-assistenter på just det här sättet i verkliga attacker. Daniel Avulov, Senior Cybersecurity Researcher på Barracudas red team, bedömer däremot att metoden kan komma att användas.
– Med tanke på både den ökande förekomsten av AI-förstärkta plattformar, exempelvis Phishing-as-a-Service-verktyg, och att hotaktörer historiskt sett har varit snabba på att utnyttja verktyg som redan finns tillgängliga i en miljö, tror vi att det här är en metod som vi kommer att få se framöver, säger han till Techtidningen.
Minuter kan bli avgörande
Att söka igenom en kapad inkorg efter användbar information är i sig inget nytt. Skillnaden med en integrerad AI-assistent är framför allt hur snabbt stora mängder information kan bearbetas.
– AI-assistenten gör det möjligt för angriparen att på några sekunder identifiera och lyfta fram värdefull information, något som annars skulle kunna ta flera minuter. Den kan dessutom sammanfatta informationen så att den snabbt går att ta till sig, säger Daniel Avulov.
Enligt honom kan den tidsvinsten vara betydelsefull vid så kallade BEC-attacker, Business Email Compromise, där angripare använder komprometterade företagskonton för exempelvis betalningsbedrägerier.
Risken är inte begränsad till en viss bransch eller typ av organisation. Enligt Daniel Avulov kan företag som både hanterar känslig information via e-post och har AI-assistenter integrerade med e-postmiljön vara utsatta.
Svårare att upptäcka avvikande kommunikation
AI kan också hjälpa angriparen att smälta in. Genom att låta AI-assistenten formulera meddelanden utifrån tidigare kommunikation kan svaren efterlikna användarens normala sätt att skriva.
Det innebär samtidigt inte att befintliga metoder för att upptäcka kapade konton blir irrelevanta. Inloggningar från okända platser eller nya och misstänkta regler i inkorgen kan fortfarande avslöja ett intrång.
– Traditionella säkerhetsmetoder är därför fortfarande relevanta för att upptäcka den här typen av attacker, förutsatt att de är snabba och träffsäkra, säger Daniel Avulov.
Han pekar framför allt på behovet av att korta både tiden till upptäckt och tiden från upptäckt till åtgärd. När AI-assistenter kan hjälpa angripare att snabbare söka fram information och föra attacken vidare blir tidsfaktorn en central del av försvaret.
