Varför den hittar på

Modellen skriver den fortsättning som är mest sannolik, inte den som är sann. Där det finns gott om text om något sammanfaller de två. En fråga om en huvudstad får rätt svar för att rätt svar är vanligt.

Gäller frågan i stället er egen rutin, ett ovanligt ärendeslag eller en detalj som saknas i underlaget, fyller modellen ändå i. Den har inget annat läge. Det som kommer ut har rätt form: rätt tonfall, trovärdiga siffror, en källhänvisning som ser äkta ut. Formen kommer ur räkningen och inte ur innehållet, och det är därför den håller även när innehållet inte gör det.

Det går alltså inte att bygga bort, bara att omgärda. Det farligaste påhittet är inte det uppenbara utan det rimliga: ett belopp som ligger nära det riktiga, en paragraf som finns men handlar om annat, ett datum som stämmer för ett annat ärendeslag. Ingenting i svaret markerar var gissningen börjar.

Och ju bättre lösningen är i övrigt, desto mindre granskas den, och desto längre hinner ett fel gå innan någon reagerar.

Så här går det fel

På ett kundcenter får en medarbetare ett svar med en hänvisning till ett villkor. Hon kontrollerar den första gången, ser att den stämmer, och slutar kontrollera.

Ett halvår senare vilar ett besked till en kund på ett villkor som aldrig funnits i den lydelsen. Det finns ingen knapp i vyn för att anmäla svaret, så det anmäldes aldrig, och ingen hade bestämt vad som skulle räknas, så det räknades inte heller. Felnivån är alltså okänd, och nu är den ett enskilt fall i stället för ett tal.

Det här måste någon bestämma

Vilken felnivå som faktiskt godtas, per ärendetyp, skrivs ner före driftsättning. En verksamhet som inte vågar skriva ner en accepterad felnivå har inte undvikit att välja en. Den har valt en okänd.

Anmälningarna behöver en ägare. Någon som varje månad läser de fel användarna rapporterat, avgör om något ska ändras, och svarar den som anmälde. Utan den rollen samlas anmälningarna i ett formulär ingen öppnar, och den dag felnivån blir en fråga finns inga siffror att förhandla med.