Inga produkter i varukorgen.
Cisco vill säkra företagets AI-användning
säkerhet Allt fler organisationer utvecklar och använder olika AI-tjänster. AI Defense är en ny plattform från Cisco som kan övervaka stora språkmodeller och användarbeteenden i realtid och slå larm om något oönskat inträffar.
Jeetu Patel är produktchef på Cisco.
Artificiell intelligens och maskininlärning är en de senaste årens absolut viktigaste tekniktrender och används av allt fler företag, men när man rusar in i nya tekniklösningar gäller det att ha koll på säkerhetsaspekten.
Nu tar Cisco ett helhetsgrepp på all den säkerhetsproblematik som kommer med de nya AI-tjänsterna genom att lansera plattformen AI Defense. Lösningen bygger delvis på den teknik som Cisco fick på köpet när man förvärvade företaget Robust Intelligence i fjol. Robust Intelligence grundades 2019 av en professor på Harvard-universitetet i USA.
Med hjälp av AI Defense ska man känna sig tillräckligt trygg för att kunna upprätthålla en hög takt i utvecklingen och implementationen av olika slags AI-tjänster. Enligt Cisco skiljer sig AI-modeller från tradtionella applikationer på så sätt att de har en inbyggd oförutsägbarhet, något som kan yttra sig i att de hallucinerar och ger direkt felaktiga eller missvisande svar.
Andra potentiella säkerhetsproblem utgörs av dataläckage och allt mer sofistikerade hot, något som dagens befintliga säkerhetslösningar inte kan hantera.
– Du måste röra dig snabbt med AI men du har absolut inte råd att offra säkerhet och trygghet till förmån för snabbhet. Säkerhetsansvariga kommer att behöva ett sammanhållet lager för överblick och kontroll. De behöver inte bara se, utan förstå, var och hur AI används inom verksamheten – både av användare och av utvecklare, säger Jeetu Patel, produktchef på Cisco.
En faktor som ytterligare ökar komplexiteten i AI-användningen är att många använder flera olika AI-modeller. Dessa är i många fall dessutom distribuerade över flera olika molnleverantörer såväl som i företagets egna datacenter, vilket gör det svårt att få en helhetsbild över användningen.
Cisco AI Defense-plattformen är utformad för att lösa denna problematik och ge en komplett bild över alla AI-applikationer och språkmodeller som används. Det åstadkommer man genom att övervaka AI-användningen i realtid och slå larm om något som hotar säkerheten upptäcks.
Det innebär att man kan reglera vilka ai-applikationer och träningskällor som kan användas av anställda inom din organisation oavsett om de körs i privata eller publika molntjänster. Plattformen kan också upptäcka potentiellt skadliga överbelastningsattacker och så kallad promptinjektion.
För att upptäcka sårbarheter har Cisco tagit fram en automatiserad funktion som stresstestar ai-modellerna i stor skala för att försöka generera felaktiga svar, något som inte skulle vara möjligt om en människa hade samma arbetsuppgift.
AI Defense kan integreras med Ciscos övriga säkerhetsplattformar, som Cisco Security Cloud som är inriktat på molntjänster, och blir tillgängligt i mars.
