AI-riskhantering i praktiken

AI-riskhantering är arbetet med att bedöma och hantera riskerna när verksamheten använder AI, från läckta personuppgifter till felaktiga resultat. Både AI-förordningen och GDPR ställer krav på arbetet, och det börjar med att ni vet vilka AI-verktyg som används. Verktyg som behandlar personuppgifter kan ni bedöma i vårt verktyg för konsekvensbedömning (DPIA).

Det här behöver du veta:

• De vanligaste AI-riskerna för företag och organisationer rör personuppgifter, informationsläckage, felaktiga resultat, diskriminering och beroende av leverantörer
• AI-förordningen (EU 2024/1689) kräver ett riskhanteringssystem för leverantörer av AI-system med hög risk, och kraven för de flesta högrisksystem gäller från 2 december 2027
• GDPR gäller redan idag för all AI som behandlar personuppgifter, och kräver ofta en konsekvensbedömning
• Riskhanteringen börjar med en inventering av vilka AI-verktyg som används i praktiken, inklusive de som medarbetare själva har valt
• AI-risker ska ingå i verksamhetens ordinarie riskhantering, inte hanteras i ett separat spår

Vad är AI-riskhantering?

AI-riskhantering är en systematisk process för att hitta, värdera och behandla de risker som ett AI-system kan medföra för verksamheten, för de personer som berörs och för samhället.

Processen följer samma steg som annan riskhantering: fastställ ramar, identifiera risker, analysera och värdera, behandla och följ upp. Det som skiljer AI från andra system är att resultatet inte alltid går att förutse. Ett AI-system kan ge olika svar på samma fråga, lära sig mönster ur data som ingen har granskat och förändras när leverantören uppdaterar modellen. Därför behöver uppföljningen vara tätare och omfatta själva resultaten, inte bara tekniken.

Det finns etablerade stöd för arbetet. ISO/IEC 42001 är en standard för ledningssystem för AI, och ISO/IEC 23894 ger vägledning om riskhantering för AI. Ingen av dem är obligatorisk, men de gör det lättare att visa att arbetet är strukturerat.

Vilka AI-risker finns för företag och organisationer?

De vanligaste AI-riskerna för företag och organisationer är att personuppgifter behandlas utan rättslig grund, att känslig information läcker ut, att AI ger felaktiga eller diskriminerande resultat och att verksamheten blir beroende av en enskild leverantör.

Informationsläckage är den risk som oftast realiseras först, eftersom generativa AI-tjänster är lätta att börja använda utan att någon har godkänt dem. Risken kring leverantörer hanterar ni med fördel med samma metod som för andra IT-leverantörer, till exempel i vår tjänst för leverantörsutvärdering.

Exempel på situationer där AI-risker aktualiseras

AI-risker uppstår ofta i vardagliga situationer, inte bara i stora utvecklingsprojekt:

• "En handläggare bad ett AI-verktyg sammanfatta ett ärende och klistrade in hela utredningen, med personnummer och hälsouppgifter."
• "Vi testade ett AI-verktyg som rangordnar ansökningar, och det placerade sökande med utländska efternamn lägre."
• "Vår chattbot på webben svarade en kund att hen hade rätt till återbetalning, trots att villkoren säger något annat."

Vad kräver AI-förordningen?

AI-förordningen kräver att leverantörer av AI-system med hög risk har ett dokumenterat riskhanteringssystem under hela systemets livscykel, och att användare av sådana system följer instruktionerna och säkerställer mänsklig tillsyn.

EU:s AI-förordning (EU 2024/1689), AI Act, är riskbaserad. Ju större risk ett AI-system innebär, desto strängare krav:

Vilka system som är förbjudna beskrivs i artikeln om förbjuden AI i EU.

Riskhanteringssystemet för högrisksystem regleras i art. 9. Det ska identifiera och analysera kända och förutsebara risker för hälsa, säkerhet och grundläggande rättigheter, vidta åtgärder och testas löpande. Användare av högrisksystem, i förordningen kallade tillhandahållare, ska bland annat använda systemet enligt instruktionerna, utse personer som utövar mänsklig tillsyn och övervaka driften enligt art. 26. Offentliga aktörer och vissa privata aktörer ska dessutom göra en konsekvensbedömning avseende grundläggande rättigheter enligt art. 27.

När gäller kraven?

Kraven för de flesta AI-system med hög risk gäller från 2 december 2027, sedan EU i juli 2026 sköt fram tidpunkten genom förordning (EU) 2026/1744.

Ändringsförordningen, som brukar kallas Digital Omnibus, trädde i kraft 27 juli 2026. Högrisksystem som ingår i produkter som redan är reglerade, till exempel medicintekniska produkter, omfattas från 2 augusti 2028. Förbuden och reglerna om allmänna AI-modeller gäller redan. Vad som började gälla 2 augusti 2026 beskrivs i artikeln om AI-förordningen.

Uppskjutandet är ingen anledning att vänta. Den som börjar arbeta med AI-riskhantering först 2027 hinner sällan bygga upp dokumentationen, och GDPR gäller redan fullt ut.

Vad kräver GDPR när ni använder AI?

GDPR gäller för all AI som behandlar personuppgifter, oavsett riskklass enligt AI-förordningen, och kräver att ni har rättslig grund, tydliga ändamål och en konsekvensbedömning när behandlingen sannolikt innebär hög risk.

AI-förordningen och dataskyddsförordningen (EU 2016/679), GDPR, gäller parallellt. Ett AI-system med minimal risk enligt AI-förordningen kan alltså ändå kräva en omfattande bedömning enligt GDPR. I praktiken handlar det om:

• Rättslig grund och ändamål: Personuppgifter som samlats in för ett ändamål får inte utan vidare användas för att träna eller mata ett AI-system.
• Konsekvensbedömning (DPIA): Krävs enligt art. 35 när behandlingen sannolikt innebär hög risk, vilket ofta är fallet vid ny teknik, profilering och behandling i stor skala.
• Automatiserade beslut: Art. 22 ger den registrerade rätt att inte bli föremål för beslut som enbart grundas på automatiserad behandling, om beslutet har rättsliga följder eller påverkar hen i betydande grad.
• Biträdesavtal och överföringar: Om AI-leverantören behandlar personuppgifter för er räkning krävs biträdesavtal, och vid överföring utanför EU/EES krävs en giltig överföringsmekanism.

Så bygger ni AI-riskhantering i praktiken

Ni bygger en hållbar AI-riskhantering i 6 steg: inventera, klassificera, bedöma, besluta, utbilda och följa upp.

1. Inventera AI-användningen. Kartlägg vilka AI-verktyg som används, både de som köpts in och de som medarbetare har börjat använda på eget initiativ. För in dem i ett AI-register.
2. Klassificera enligt AI-förordningen. Bestäm riskklass för varje användning, och om ni är leverantör eller tillhandahållare.
3. Bedöm riskerna. Gör en riskbedömning för varje användning, och en DPIA när personuppgifter behandlas med sannolikt hög risk.
4. Besluta om åtgärder och regler. Ta fram en AI-policy som anger vilka verktyg som är godkända och vilken information som aldrig får matas in.
5. Utbilda medarbetarna. AI-förordningen kräver att leverantörer och tillhandahållare vidtar åtgärder för att främja AI-kunnighet hos sin personal. Ett sätt är vår compliance-utbildning inom dataskydd och informationssäkerhet.
6. Följ upp resultaten. Granska stickprov av AI-genererade resultat, följ upp incidenter och uppdatera bedömningen när leverantören ändrar modellen eller villkoren.

Ansvaret för AI-riskhanteringen ligger hos ledningen, eftersom det är ledningen som beslutar om vilka risker verksamheten ska bära. För frågor om just er användning av AI, kontakta Draftit eller annan juridisk expert för konkret rådgivning.

Vanliga frågor om riskhantering kring AI

Får medarbetare använda ChatGPT och liknande verktyg i jobbet?

Ja, om verksamheten har bedömt verktyget och bestämt vilken information som får användas.

Det största problemet är när personuppgifter eller sekretessbelagd information matas in i publika tjänster där leverantören kan använda uppgifterna. Många organisationer väljer en företagsversion med avtal som förbjuder träning på era data, och kompletterar med en tydlig policy. Mer om det i artikeln om ChatGPT och dataskydd.

Är vi leverantör eller tillhandahållare enligt AI-förordningen?

De flesta organisationer är tillhandahållare, eftersom de använder AI-system som någon annan har utvecklat.

Ni blir leverantör om ni utvecklar ett AI-system eller marknadsför det i eget namn. Ni kan också bli leverantör om ni väsentligt ändrar ett högrisksystem eller använder ett system för ett högriskändamål som leverantören inte har avsett.

Måste vi göra en DPIA för alla AI-verktyg?

Nej, men en DPIA krävs när behandlingen sannolikt innebär hög risk för de registrerade, vilket ofta gäller AI som behandlar personuppgifter i större skala.

IMY:s förteckning över när en konsekvensbedömning krävs omfattar bland annat innovativ teknik och profilering. Gör åtminstone en dokumenterad förbedömning för varje AI-verktyg som behandlar personuppgifter.

Vilka sanktioner gäller enligt AI-förordningen?

Brott mot förbuden kan ge sanktionsavgifter på upp till 35 miljoner euro eller 7 % av den globala årsomsättningen, och andra överträdelser upp till 15 miljoner euro eller 3 %.

För små och medelstora företag gäller i regel det lägre av de två beloppen. Utöver det kan samma användning leda till sanktioner enligt GDPR.

Hur ofta ska AI-riskerna bedömas på nytt?

AI-riskerna bör bedömas på nytt när modellen, leverantörens villkor eller användningsområdet ändras, och minst 1 gång per år.

AI-tjänster uppdateras betydligt oftare än traditionella system. En förändring som ser liten ut, som en ny modellversion, kan påverka både kvaliteten på resultaten och var uppgifterna behandlas.