AI och datakvalitet

Hur statistikens kvalitetskrav möter AI-förordningen

EU:s AI-förordning (AI Act) trädde i kraft den 1 augusti 2024 och gäller i hela EU. Förordningen införs stegvis:

Från februari 2025: Förbud mot oacceptabla AI-tillämpningar, såsom sociala poängsystem och vissa former av realtidsövervakning som kränker personlig integritet.
Från augusti 2025: Krav på transparens för AI-system som interagerar direkt med människor (t.ex. chattbotar) eller genererar innehåll, vilket redan påverkar kommuners digitala tjänster.
Från augusti 2026: Full tillämpning av regler för högrisk-AI, inklusive strikta krav på datakvalitet, riskhantering, dokumentation och mänsklig översyn, särskilt relevant för områden som socialtjänst och utbildning.
Från augusti 2027 och framåt: Successiv införande av tekniska standarder, certifieringsprocesser och harmoniserade normer för att säkerställa långsiktig efterlevnad.

För kommuner och andra offentliga verksamheter innebär detta en dubbel utmaning: flera regler, inklusive transparenskrav, är redan i kraft sedan augusti 2025, medan full beredskap för högrisk-AI måste vara på plats senast 2026. Detta ställer höga krav på datakvalitet och styrning, särskilt i en tid då många kommuner snabbt digitaliserar sina tjänster, från skolvalssystem till biståndsbedömningar.

AI Act specificerar tydliga krav på data som används i dessa system. Data måste vara relevanta, representativa och tillförlitliga (fria från fel i den utsträckning det är tekniskt möjligt), samt fria från systematiska fel (bias) som kan leda till diskriminering eller orättvisa utfall. Dessutom betonas användningen av statistiska metoder för att identifiera, mäta och korrigera sådana brister, vilket är en central del av förordningens Artikel 10.3 och 10.4. För kommuner innebär detta inte bara juridisk efterlevnad utan också ett behov av robusta processer för att säkerställa att AI-stödda beslut är rättvisa, transparenta och hållbara.

ORBICAP erbjuder stöd och utbildning som hjälper kommuner och myndigheter att:

Bedöma och dokumentera datakvalitet för AI-system: Säkerställ att underliggande data är korrekt och användbar, t.ex. genom att validera dataset för skolval eller socialtjänst.
Identifiera hög-risk AI-användning (t.ex. bistånd, skolval): Upptäck och klassificera AI-system där fel kan få allvarliga konsekvenser, med stöd av AI Act:s riskklassningsmodell.
Använda statistikens logik och verktyg i granskning av AI: Tillämpa metoder som biasdetektering och datakvalitetsanalys för att granska och förbättra AI-modeller.
Följa upp och utvärdera automatiserade beslut: Skapa system för kontinuerlig övervakning och rapportering, vilket säkerställer långsiktig efterlevnad och förtroende.

Vår metod bygger på statistikens fem kvalitetskomponenter – relevans, tillförlitlighet, aktualitet, jämförbarhet och tillgänglighet – som är grunden för den officiella statistiken i Sverige enligt lag (2001:99). Dessa kombineras med en djupgående förståelse av AI Act:s krav och dess praktiska tillämpning i kommunal verksamhet. Till skillnad från många andra utbildningar som fokuserar enbart på juridiska eller tekniska aspekter, erbjuder ORBICAP ett helhetsgrepp som integrerar statistikens principer med operativa processer – en unik approach som stärker både efterlevnad och effektivitet.

Vill du veta mer?

Kontakta oss för ett kostnadsfritt informationsmöte eller boka vår föreläsning Statistik och AI för smartare kommunal styrning.

Skicka intresseförfrågan till info@orbicap.com eller boka ett möte direkt i kalendern.