Översikt: Här är allt du behöver veta om AI Act

Till den senare kategorin räknas till exempel hälso- och sjukvårdsteknik, där AI-användningen kan ha direkt påverkan på människors hälsa. Här ställs högre krav på transparens och säkerhet än vid andra användningsområden.

En annan uppdelning som är viktig att känna till i AI Act är den som görs utifrån olika roller. Här skiljer man i förordningen bland annat på ”providers”, som utvecklar AI-teknik, och ”deployers”, som använder AI-systemen på olika sätt i sin verksamhet. Beroende på vilken roll man har kan skyldigheterna se olika ut.

En skyldighet som dock omfattar båda dessa roller handlar om AI-kompetens. Sedan den 2 februari 2025 måste man säkerställa att anställda som använder AI-systemen har tillräcklig AI-kompetens. Medan andra delar av AI Act ännu inte har trätt i kraft är detta alltså något som redan i dag påverkar den interna styrningen av AI och utbildningsbehovet.

EU-kommissionen beskriver AI Act som det första heltäckande rättsliga ramverket för AI i världen, och eftersom införandet sker gradvis kan det hända saker under resans gång. I slutet av mars 2026 röstade exempelvis en majoritet i EU-parlamentet för att AI Act ska förenklas på flera punkter, eftersom det annars riskerar att bli alltför krångligt för mindre företag att använda olika AI-lösningar.

Det datum då AI Act först trädde i kraft var den 1 augusti 2024, men då gällde endast vissa delar av förordningen. Redan från början stod det klart att alla som använder AI-tekniken i sin verksamhet, eller som utvecklar och säljer AI-lösningar på den europeiska marknaden, omfattas av förordningen.

Utgörs av ett flertal olika regler

AI Act består av ett flertal regler och är framtagen för att säkerställa att invånarnas säkerhet, grundläggande rättigheter och hälsa inte ska kunna ta skada som en följd av skadlig AI-användning.

När RISE nyligen skrev om konsekvenserna av AI Act förklarade Susanne Stenberg, senior forskare och rättslig expert på RISE, att förordningen innebär att AI-system ses som produkter och att AI Act därmed kan ses som ett slags konsumentskydd.

Vissa kategorier av produkter omfattas redan av EU:s säkerhetslagstiftning och CE-märkningen. I framtiden kommer denna märkning alltså även att omfatta vissa typer av AI-system.

AI Act klassar vissa typer av AI-system som oacceptabla, och de är därför förbjudna sedan i början av 2025. Här har man lyft varnande exempel från bland annat Kina, där biometrisk övervakning används för att kartlägga hur enskilda individer uppträder i samhället. Denna typ av integritetskränkande massövervakning är något som EU-kommissionen vill sätta stopp för. På listan över förbjudna användningsområden finns också system som bedöms vara manipulativa.

En viktig del av AI Act är de transparenskrav som omfattar vissa slags AI-system. Det här är viktigt att känna till för alla företag som använder exempelvis generativ AI och chattbotar och innebär att de människor som kontaktar ditt företag måste informeras när de interagerar med AI-system. Här ställs också krav på att AI-genererat innehåll i vissa fall måste märkas upp.

Som med alla lagar och förordningar kommer det att krävas att tillsynsmyndigheter eller andra aktörer säkerställer att AI Act verkligen efterlevs. EU har kommit fram till att den bästa lösningen är att varje medlemsland bestämmer hur ansvaret ska fördelas.

I den svenska utredningen ”Anpassningar till AI-förordningen” föreslås ett svenskt system för hur tillsynen ska hanteras, där Post- och telestyrelsen blir huvudansvarig marknadskontrollmyndighet. Dessutom får IMY, Integritetsskyddsmyndigheten, och Finansinspektionen ansvar inom vissa delar av det som klassificeras som högrisk-AI. I de fall AI-tekniken integreras i en maskin av något slag föreslås tillsynsansvaret vila på den myndighet som har ansvaret för maskinen, alltså Arbetsmiljöverket.

Måste tillhandahålla en sandlåda

Om du är verksam i en bransch som hittills inte har haft särskilt mycket kontakt med en tillsynsmyndighet men nu omfattas av reglerna i AI Act finns det hjälp att få. Här har bland annat RISE gått ut med information om att man kan hjälpa ditt företag att uppfylla sina regulatoriska skyldigheter.

AI Act ställer också krav på att alla EU-länder tillhandahåller en så kallad AI-regulatorisk sandlåda där man kan testa olika AI-lösningar i en skyddad testmiljö och samtidigt få juridisk vägledning.

De organisationer som inte lever upp till kraven i AI Act riskerar att få betala böter, i vissa fall betydande belopp. Detta gäller naturligtvis AI-system som klassas som förbjudna, men även andra slags överträdelser kan leda till sanktioner.

Ovan nämnda Susanne Stenberg på RISE ser också möjligheter att göra stark AI Act-efterlevnad till en konkurrensfördel. Aktörer som kan bevisa att de erbjuder ett robust och tillförlitligt AI-system i sina produkter ses förmodligen som ett attraktivt alternativ för potentiella kunder.