Riskvilja som beslut

Riskvilja är hur mycket fel ni står ut med, uttryckt så att någon annan kan tillämpa det. Den finns i varje organisation som använder ett AI-stöd, formulerad eller inte.

Utan ett uttalat beslut sätts nivån av det första fallet som råkade prövas. Nästa fall prövas mot något annat, av någon annan. Då har ni flera riskviljor och inget sätt att säga vilken som gäller.

Ett fel i ett skrivstöd och ett fel i ett underlag för ett myndighetsbeslut är inte samma risk. Det första kostar tid. Det andra kan kosta någon en rättighet.

En organisation som behandlar dem lika har fattat ett av två beslut utan att veta det: förbjudit det ofarliga för att skydda sig mot det farliga, eller tillåtit det farliga för att inte hindra det ofarliga. Båda ser ut som försiktighet inifrån.

En oskriven nivå går heller inte att pröva. Den som i efterhand ifrågasätter ett beslut kan alltid hävda att risken var oacceptabel, och ni har ingenting att hålla emot med. Ett uttalat beslut har en annan form: en nivå per typ av användning, nedskriven, med ett namn under.

Så här går det fel

Mötesanteckningar ska skrivas med ett stöd, och förvaltningen frågar om lov. Frågan går till den grupp som prövar AI-användning, och gruppen har inga nivåer att pröva mot, bara en policy som säger att risker ska bedömas. Den bedömer frågan som om utfallet kunde nå en enskild. Svaret blir nej.

Nästa förvaltning frågar inte. Den använder en funktion som redan ligger i en produkt de betalar för, till möten där enskilda nämns. Båda utfallen har samma orsak: ingen nivå för det ofarliga fanns nedskriven, så gruppen hade bara den strängaste att pröva mot.

Det här måste någon bestämma

Nivåer per typ av användning och inte en nivå för AI. Varje nivå behöver tre saker för att gå att tillämpa: vad som får hända, vad som inte får hända, och vad som sker när gränsen passeras.

Vem som får besluta inom varje nivå, och att det där det ofarliga ligger är en person och inte en grupp.

Vad ni är beredda att betala för att sänka en nivå, eftersom varje steg lägre betalas i granskning, snävare användning eller färre ärendeslag. Och vad som utlöser en omprövning. Den uttalade riskviljan är det som gör att ni kan säga ja snabbt till det ofarliga.