AI-riskhantering är arbetet med att bedöma och hantera riskerna när verksamheten använder AI, från läckta personuppgifter till felaktiga resultat. Både AI-förordningen och GDPR ställer krav på arbetet, och det börjar med att ni vet vilka AI-verktyg som används. Verktyg som behandlar personuppgifter kan ni bedöma i vårt verktyg för konsekvensbedömning (DPIA).
Det här behöver du veta:
AI-riskhantering är en systematisk process för att hitta, värdera och behandla de risker som ett AI-system kan medföra för verksamheten, för de personer som berörs och för samhället.
Processen följer samma steg som annan riskhantering: fastställ ramar, identifiera risker, analysera och värdera, behandla och följ upp. Det som skiljer AI från andra system är att resultatet inte alltid går att förutse. Ett AI-system kan ge olika svar på samma fråga, lära sig mönster ur data som ingen har granskat och förändras när leverantören uppdaterar modellen. Därför behöver uppföljningen vara tätare och omfatta själva resultaten, inte bara tekniken.
Det finns etablerade stöd för arbetet. ISO/IEC 42001 är en standard för ledningssystem för AI, och ISO/IEC 23894 ger vägledning om riskhantering för AI. Ingen av dem är obligatorisk, men de gör det lättare att visa att arbetet är strukturerat.
De vanligaste AI-riskerna för företag och organisationer är att personuppgifter behandlas utan rättslig grund, att känslig information läcker ut, att AI ger felaktiga eller diskriminerande resultat och att verksamheten blir beroende av en enskild leverantör.
| Risk | Vad kan hända | Exempel på åtgärd |
|---|---|---|
| Dataskydd | Personuppgifter används för nya ändamål eller utan rättslig grund | Konsekvensbedömning, tydliga ändamål, dataminimering |
| Informationsläckage | Medarbetare klistrar in kunduppgifter eller affärshemligheter i en publik AI-tjänst | AI-policy, godkända verktyg, avtal som förbjuder träning på era data |
| Felaktiga resultat | AI hittar på fakta, källor eller siffror som ser trovärdiga ut | Mänsklig granskning innan resultat används i beslut |
| Diskriminering | Modellen återger skevheter i träningsdata, till exempel i rekrytering | Test av resultat, mänsklig kontroll, dokumentation |
| Säkerhet | Manipulerade instruktioner (prompt injection) får AI att lämna ut data eller utföra åtgärder | Begränsade behörigheter för AI, loggning, säkerhetstester |
| Leverantörsberoende | Leverantören ändrar modellen, villkoren eller var data lagras | Leverantörsbedömning, avtalsvillkor, exitplan |
| Regelefterlevnad | AI används på ett sätt som är förbjudet eller kräver särskilda åtgärder | Klassificering enligt AI-förordningen |
Informationsläckage är den risk som oftast realiseras först, eftersom generativa AI-tjänster är lätta att börja använda utan att någon har godkänt dem. Risken kring leverantörer hanterar ni med fördel med samma metod som för andra IT-leverantörer, till exempel i vår tjänst för leverantörsutvärdering.
AI-risker uppstår ofta i vardagliga situationer, inte bara i stora utvecklingsprojekt:
AI-förordningen kräver att leverantörer av AI-system med hög risk har ett dokumenterat riskhanteringssystem under hela systemets livscykel, och att användare av sådana system följer instruktionerna och säkerställer mänsklig tillsyn.
EU:s AI-förordning (EU 2024/1689), AI Act, är riskbaserad. Ju större risk ett AI-system innebär, desto strängare krav:
| Riskklass | Exempel | Krav |
|---|---|---|
| Oacceptabel risk | Social poängsättning, manipulation, viss biometrisk identifiering | Förbjudet sedan 2 februari 2025 |
| Hög risk | AI i rekrytering, utbildning, kreditbedömning, offentlig service | Riskhanteringssystem, dokumentation, mänsklig tillsyn, loggning |
| Transparensrisk | Chattbotar, AI-genererat innehåll | Information om att innehållet är AI-genererat |
| Minimal risk | Spamfilter, stavningskontroll | Inga särskilda krav |
Vilka system som är förbjudna beskrivs i artikeln om förbjuden AI i EU.
Riskhanteringssystemet för högrisksystem regleras i art. 9. Det ska identifiera och analysera kända och förutsebara risker för hälsa, säkerhet och grundläggande rättigheter, vidta åtgärder och testas löpande. Användare av högrisksystem, i förordningen kallade tillhandahållare, ska bland annat använda systemet enligt instruktionerna, utse personer som utövar mänsklig tillsyn och övervaka driften enligt art. 26. Offentliga aktörer och vissa privata aktörer ska dessutom göra en konsekvensbedömning avseende grundläggande rättigheter enligt art. 27.
Kraven för de flesta AI-system med hög risk gäller från 2 december 2027, sedan EU i juli 2026 sköt fram tidpunkten genom förordning (EU) 2026/1744.
Ändringsförordningen, som brukar kallas Digital Omnibus, trädde i kraft 27 juli 2026. Högrisksystem som ingår i produkter som redan är reglerade, till exempel medicintekniska produkter, omfattas från 2 augusti 2028. Förbuden och reglerna om allmänna AI-modeller gäller redan. Vad som började gälla 2 augusti 2026 beskrivs i artikeln om AI-förordningen.
Uppskjutandet är ingen anledning att vänta. Den som börjar arbeta med AI-riskhantering först 2027 hinner sällan bygga upp dokumentationen, och GDPR gäller redan fullt ut.
GDPR gäller för all AI som behandlar personuppgifter, oavsett riskklass enligt AI-förordningen, och kräver att ni har rättslig grund, tydliga ändamål och en konsekvensbedömning när behandlingen sannolikt innebär hög risk.
AI-förordningen och dataskyddsförordningen (EU 2016/679), GDPR, gäller parallellt. Ett AI-system med minimal risk enligt AI-förordningen kan alltså ändå kräva en omfattande bedömning enligt GDPR. I praktiken handlar det om:
Ni bygger en hållbar AI-riskhantering i 6 steg: inventera, klassificera, bedöma, besluta, utbilda och följa upp.
Ansvaret för AI-riskhanteringen ligger hos ledningen, eftersom det är ledningen som beslutar om vilka risker verksamheten ska bära. För frågor om just er användning av AI, kontakta Draftit eller annan juridisk expert för konkret rådgivning.
Ja, om verksamheten har bedömt verktyget och bestämt vilken information som får användas.
Det största problemet är när personuppgifter eller sekretessbelagd information matas in i publika tjänster där leverantören kan använda uppgifterna. Många organisationer väljer en företagsversion med avtal som förbjuder träning på era data, och kompletterar med en tydlig policy. Mer om det i artikeln om ChatGPT och dataskydd.
De flesta organisationer är tillhandahållare, eftersom de använder AI-system som någon annan har utvecklat.
Ni blir leverantör om ni utvecklar ett AI-system eller marknadsför det i eget namn. Ni kan också bli leverantör om ni väsentligt ändrar ett högrisksystem eller använder ett system för ett högriskändamål som leverantören inte har avsett.
Nej, men en DPIA krävs när behandlingen sannolikt innebär hög risk för de registrerade, vilket ofta gäller AI som behandlar personuppgifter i större skala.
IMY:s förteckning över när en konsekvensbedömning krävs omfattar bland annat innovativ teknik och profilering. Gör åtminstone en dokumenterad förbedömning för varje AI-verktyg som behandlar personuppgifter.
Brott mot förbuden kan ge sanktionsavgifter på upp till 35 miljoner euro eller 7 % av den globala årsomsättningen, och andra överträdelser upp till 15 miljoner euro eller 3 %.
För små och medelstora företag gäller i regel det lägre av de två beloppen. Utöver det kan samma användning leda till sanktioner enligt GDPR.
AI-riskerna bör bedömas på nytt när modellen, leverantörens villkor eller användningsområdet ändras, och minst 1 gång per år.
AI-tjänster uppdateras betydligt oftare än traditionella system. En förändring som ser liten ut, som en ny modellversion, kan påverka både kvaliteten på resultaten och var uppgifterna behandlas.