Inga produkter i varukorgen.
Cisco släpper verktyg för att spåra AI-modellers ursprung
AI Cisco har släppt ett nytt open source-verktyg som ska göra det möjligt att kartlägga ursprunget hos AI-modeller och identifiera hur de har tränats och modifierats över tid.
Foto: Adobe stock.
Verktyget, Model Provenance Kit, finns nu tillgängligt via GitHub och har utvecklats av säkerhetsexperter på Cisco. Syftet är att ge organisationer bättre insyn i AI-modellers ”försörjningskedja” – från träningsdata och grundmodeller till senare finjusteringar.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
Enligt Cisco är dokumentationen kring öppna AI-modeller ofta bristfällig när företag laddar ner modeller från exempelvis Hugging Face och anpassar dem för egna behov.
Det kan leda till att modeller med säkerhetsbrister, bias eller regulatoriska problem används i produktion. Cisco pekar även på att otillräcklig spårbarhet kan skapa problem i relation till regelverk som EU AI Act.
Jämför modeller mot databas
Model Provenance Kit analyserar både metadata och modellparametrar för att identifiera släktskap mellan olika AI-modeller. Verktyget arbetar i flera steg, där en första screening följs av djupare analyser av faktorer som enligt Cisco är svåra att förändra genom finjusteringar.
Det går antingen att jämföra två modeller direkt eller att matcha en modell mot en databas med digitala ”fingeravtryck”. Databasen omfattar initialt omkring 150 basmodeller och ska byggas ut löpande.
I ett blogginlägg beskriver utvecklarna verktyget som ett ”DNA-test för AI-modeller”. De menar att det ska bidra till en mer evidensbaserad metod för att spåra modellers ursprung och förändringar över tid.
