Policy som fungerar

Registret finns. Fyra godkända användningar står i det. Verksamheten har elva.

En policy är en text som säger vad som ska gälla. Den blir en spärr först när den har en motsvarighet i systemet, alltså ett villkor som måste vara uppfyllt för att något ska gå att göra. Utan den motsvarigheten är policyn en avsiktsförklaring, och den håller precis så länge alla känner till den och har tid att följa den.

Skillnaden syns inte i dokumentet. Den syns i vägen som leder fram till drift: finns det ett steg där något faktiskt hindras, eller finns det bara en punkt någon förväntas bocka av.

Detta är samma sak som gäller för instruktioner till en modell, fast riktat mot människor. En regel som ingenting prövar är en böjelse, och en styrning som bara bokför är ingen spärr.

Det är belagt att en assistent kunnat tas i drift i en verklig plattform utan att den beslutade godkännandeceremonin någonsin körts, av det enkla skälet att ingenting tekniskt hindrade det. Ingen bröt mot något medvetet. Vägen till drift gick bara inte genom grinden.

Så här går det fel

Beslutet att varje AI-användning ska anmälas och godkännas är väl förankrat. I en produkt verksamheten redan använder tillkommer en assistent, och den slås på av den som administrerar produkten.

Ingen anmälan görs, eftersom ingenting begär en och ingen uppfattar det som ett införande. När registret långt senare stäms av mot verkligheten visar det fyra godkända användningar. Avståndet mellan de två listorna är den verkliga exponeringen, och den mättes aldrig.

Det här måste någon bestämma

Gå igenom policyn regel för regel och skriv ut var var och en hindras: i en behörighet, i ett villkor i vägen till drift, i en kontroll av det som lämnas ut, eller i att en namngiven person måste godkänna. Där svaret är ingenstans har ni ett önskemål, och då avgörs om det ska förbli ett önskemål eller byggas.

Vilka vägar en AI-funktion kan nå era användare på, alltså ett inköp, en ny modul i en produkt ni redan har, och en inställning någon slår på. Varje väg ska passera samma grind.

Och vem som med jämna mellanrum jämför registret med det som faktiskt är i drift.