Inga produkter i varukorgen.
Gartner varnar: Dolda AI-fel kan slå ut hela samhällen innan 2028
CYBERSÄKERHET AI kommer med nya hot när det gäller cybersäkerhet. Men den allvarligaste AI-faran ligger inte i nya attacker – utan kan vara dold i felkonfigurationer som riskerar att slå ut hela samhället. Gartner tipsar om skyddsåtgärderna att vidta redan nu.
Bild:Pixabay
Felkonfigurerad AI kan bli nästa stora cyberhot. Särskilt om det rör sig om så kallade cyberfysiska system (CPS-system) som styr samhällskritisk infrastruktur. Det skriver analyshuset Gartner i en ny säkerhetsvägledning.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
– Nästa stora haveri är kanske inte orsakat av hackare eller naturkatastrofer, utan av en välmenande ingenjör, ett bristfälligt uppdateringsskript eller ett felplacerat decimaltecken, konstaterar Wam Voster, VP-analytiker på Gartner.
I skrivelsen varnar analytikerna för att ”ett omfattande avbrott i nationell kritisk infrastruktur i ett G20-land” riskerar att äga rum innan 2028, till följd av felkonfigurerad AI i CPS-system.
Därför måste alla kritiska system vara noga testade och försedda med “nödbroms”, som gör att människor snabbt kan återta kontrollen.
AI-hot ligger i komplexa modeller
I KORTHET
Detta är CPS-system
- CPS är ett samlingsbegrepp för operativ teknik (OT), industriella styrsystem (ICS), industriell automation och styrning (IACS), industriellt IoT (IIoT), robotar, drönare och Industri 4.0.
- CPS-system samordnar sensorer, beräkning, styrning, nätverk och analys för att interagera med den fysiska världen.
Faran ligger i AI-modellernas komplexitet, som gör att obetydliga ändringar kan få oförutsägbara, i värsta fall förödande, konsekvenser. De felaktiga AI-modellerna skulle på egen hand kunna stänga ned samhällsviktiga tjänster, misstolka sensordata eller utlösa farliga åtgärder.
Ett exempel är moderna elnät som använder AI för att balansera produktion och förbrukning i realtid. En felkalibrerad prognosmodell skulle kunna tolka efterfrågan som instabilitet och i onödan utlösa bortkopplingar eller lastfrånkoppling över hela regioner eller länder, skriver Gartner.
Lyfter behovet av nödbroms
Som lösning lyfter analytikerna behovet av säkra överstyrningslägen – eller en teknisk ”nödbroms” som ger behöriga operatörer möjlighet att ta tillbaka kontrollen. Människor måste alltid kunna ta över i händelse av ett kritiskt läge för att garantera samhällets säkerhet.
– Moderna AI-modeller är så komplexa att de ofta fungerar som ”svarta lådor”. Inte ens utvecklarna kan alltid förutse hur små konfigurationsändringar påverkar systemets beteende. Ju mindre transparenta systemen blir, desto större är risken. Och desto viktigare är det att människor kan ingripa vid behov, säger Wam Voster.
3 TIPS
Gartners CPS-tips till CISO
- Inför säker överstyrning: Alla CPS som stödjer kritisk infrastruktur ska ha en säker ”nödbroms” (kill switch) eller motsvarande, tillgänglig för behöriga, så att människor alltid kan återta kontroll.
- Använd digitala tvillingar: Bygg fullskaliga digitala tvillingar för realistisk testning av uppdateringar och konfigurationsändringar innan de tas i drift.
- Säkerställ realtidsövervakning: Inför kontinuerlig övervakning och rollback-mekanismer för AI-förändringar i CPS samt etablera nationella incidentrespons-team för AI.
