Transparens mot medborgare

Beslutet bär en mening om att ärendet handlagts med digitalt stöd. Den besvarar en fråga ingen ställde.

Den som berörs av ett beslut har rätt att förstå det, och det är två skilda saker. Upplysningen om förfarandet: att ett AI-stöd använts, vad det gjorde, vem som beslutade. Och motiveringen: vilka omständigheter och vilka regler som ledde till just det utfallet.

Den första handlar om hur ni arbetar. Den andra om varför svaret blev som det blev. Att lämna den första friar er inte från den andra.

”Systemet bedömde” är inget skäl. Det är en uppgift om var svaret kom ifrån. Ett skäl måste vara uttryckt i verksamhetens termer: den här uppgiften, den här bestämmelsen, den här omständigheten.

Modellen har inga sådana termer att lämna ifrån sig. Den kan skriva en text som ser ut som en förklaring, men den texten är en ny fortsättning på samma sätt som svaret var, alltså formulerad efteråt och inte hämtad ur det som faktiskt avgjorde. En förklaring systemet skrivit om sig självt är därför inte dokumentation.

Så här går det fel

En invånare får ett avslag och frågar varför. Svaret hänvisar till en bestämmelse och tillägger att ett automatiserat verktyg använts. Hon begär omprövning.

Den som prövar öppnar samma vy som den första handläggaren och ser samma sammanfattning, gjord av samma lösning ur samma underlag. Beslutet står fast, formulerat i nästan samma ordalag. Ingenting i ordningen krävde att den andra prövningen skulle utgå från källan i stället för från sammanfattningen.

Vad det innebär juridiskt

Ett beslut som går någon emot ska motiveras, och skyldigheten är densamma oavsett vilket stöd som använts. Kan ni inte redogöra för vad som faktiskt avgjorde är motiveringen bristfällig även om den är välskriven. Den enskilde har dessutom rätt att få veta att personuppgifter behandlas och i huvudsak hur det sker. Är beslutet helt automatiserat och har rättsliga följder krävs särskilt stöd, och den enskilde har rätt till mänsklig inblandning och till att få beslutet omprövat. Den rätten blir innehållslös om den människa som ska pröva bara har systemets sammanfattning framför sig, eftersom hon då prövar samma sak som den som beslutade och kommer att komma till samma slut.

Det här måste någon bestämma

Vilka utgående texter som märks som maskinellt framtagna, och hur märkningen ser ut för den som tar emot den, alltså på ett språk som går att förstå utan förkunskaper.

Vad som lämnas utan att någon frågar och vad som lämnas på begäran.

Att motiveringen alltid formuleras av en människa som haft tillgång till underlaget, och att den vilar på de uppgifter som faktiskt avgjorde. Och att den som berörs alltid kan nå en människa som kan pröva saken på nytt, med både behörighet och kunskap nog att göra det.