Inga produkter i varukorgen.
Red Hat lanserar open source-projekt för AI governance
AI Red Hat har presenterat det nya open source-projektet asago, som ska automatisera hur organisationers AI-policyer omsätts till produktionsklara AI-system med inbyggda säkerhetskontroller. Bakom initiativet står ett internationellt samarbete mellan teknikföretag och forskningsinstitutioner.
Red Hat lanserar asago (AI Safety And Governance Orchestration), ett nytt open source-projekt som syftar till att automatisera arbetet med AI governance. Målet är att koppla samman policykrav, riskbedömningar och tekniska säkerhetskontroller i ett sammanhängande arbetsflöde för utveckling och drift av AI-system.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
Enligt Red Hat ska lösningen minska tiden från framtagna AI-policyer till produktionssättning från månader eller år till dagar.
Internationellt samarbete
Projektet utvecklas som ett öppet communityinitiativ med deltagare från bland andra Microsoft, IBM Research, NVIDIA, MIT Lincoln Laboratory och The Alan Turing Institute. Även universitet och andra organisationer inom AI-säkerhet och regelefterlevnad ska delta i utvecklingen.
Fyra steg från policy till produktion
asago är utformat för att automatisera flera delar av AI-governanceprocessen:
- Riskkartläggning, där AI-policyer kopplas till etablerade ramverk och regelverk som NIST AI RMF, OWASP LLM Top 10 och EU AI Act.
- Riskbedömning, där automatiserade säkerhetstester anpassas efter den aktuella AI-lösningen i stället för att enbart använda generella benchmarktester.
- Riskhantering, där systemet rekommenderar säkerhetskontroller utifrån testresultaten och skapar ett spårbart underlag för granskning.
- Driftsättning, där rekommenderade säkerhetskontroller omsätts till konfigurationer för produktionsmiljöer, bland annat Kubernetes och hybridmoln.
Varje steg dokumenteras i ett granskningsspår som enligt Red Hat ska underlätta revision och efterlevnad av regelverk. Säkerhetskontroller i produktionsmiljön ska kunna spåras tillbaka till de policykrav eller regelverk som ligger till grund för dem.
Ska minska manuellt arbete
Bakgrunden till satsningen är att många organisationer fortfarande översätter AI-policyer till tekniska konfigurationer manuellt, något som kan vara tidskrävande och öka risken för fel och olika tolkningar. Samtidigt ställer regelverk som EU AI Act högre krav på dokumentation, riskbedömningar och verifierbara säkerhetskontroller.
– När organisationer går från experimentella AI-piloter till långsiktiga autonoma AI-agenter blir tydliga säkerhetsramar ett grundläggande infrastrukturkrav. asago automatiserar kopplingen mellan organisationers AI-policyer och AI-agenter i produktion, vilket ger den operativa trygghet som krävs för att skala upp tillförlitlig AI i hybridmoln, säger Steven Huels, vice vd för AI Engineering på Red Hat.
Enligt Stuart Battersby, AI Safety and Model Evaluation Architect på Red Hat, är ambitionen att projektet ska utvecklas genom ett öppet samarbete mellan företag, forskningsinstitutioner och offentliga aktörer.
Bakom projektet finns i dag ett växande community med deltagare från bland annat Red Hat, Alquimia AI, Brave Software, EvalEval Coalition, IBM Research, Microsoft, MIT Lincoln Laboratory, NVIDIA, North Carolina State University, Interdisciplinary Transformation University Austria och The Alan Turing Institute.
