När agenten ska stoppas

Det vanliga svaret på frågan om kontroll är att en människa ska godkänna. Som skydd är knappen svag, och skälet ligger i mekaniken.

En agent som arbetar i många steg producerar många tillfällen att godkänna, och en knapp som visas ofta blir en knapp man trycker på. Den som trycker ser sällan hela underlaget, utan agentens sammanfattning av sitt eget arbete, alltså samma parts beskrivning av det som ska prövas. Godkännandet blir en ceremoni: det flyttar ansvaret till den som tryckte utan att ge henne något att bedöma med.

Det som faktiskt hindrar en åtgärd är att rättigheten inte finns i det underliggande systemet. Ett konto utan publiceringsrätt kan inte publicera, hur agenten än blir ombedd.

Frågan är därför var linjen går. Vissa åtgärder går att göra om och vissa gör det inte. Ett utkast som blev fel skrivs om. Ett mejl som gått till en enskild är framme, en publicerad text är läst, en utbetalning är gjord, en registrering i ett ärende har blivit en handling. Skiljelinjen går inte mellan viktigt och oviktigt, utan mellan det vars verkan stannar inne hos er och det vars verkan lämnar er kontroll i samma sekund.

Så här går det fel

Svaren på inkomna synpunkter sammanställs av en agent och skickas, med ett godkännande före varje utskick. Kontot den använder har utskicksrätt, eftersom det krävdes för att flödet skulle gå ihop.

En handläggare godkänner tolv utskick på en förmiddag och läser de tre första. Det trettonde bär en mottagarlista som agenten hämtat ur fel underlag, och hon godkänner det på samma sätt. Efteråt går det att visa att en människa godkände varje utskick. Ingenting i loggen skiljer ett godkännande som lästes från ett som klickades, och utskicksrätten låg kvar i kontot hela tiden.

Det här måste någon bestämma

Åtgärderna delas i tre: sådant agenten får göra själv, sådant som kräver en människas handling, och sådant den aldrig ska kunna göra alls.

Den tredje gruppen ska vara tom på rättigheter och inte på instruktioner, alltså att kontot agenten använder saknar förmågan i källsystemet.

Vad en människas handling ska vara. Ett godkännande som bara går att lämna genom att se den verkliga åtgärden, i mottagarsystemets egna termer, är ett beslut. Ett som lämnas på agentens sammanfattning är en kvittering. Och hur många sådana frågor ett ärende får innehålla, för blir de många har ni inte byggt en kontroll utan en vana.