Varför svaret varierar

En språkmodell väljer nästa bit text ur en fördelning av möjliga fortsättningar, och valet är inte alltid det mest sannolika. Ett inslag av slump finns med avsiktligt, eftersom text som alltid tar det troligaste blir stel och upprepande.

Samma fråga kan därför ge en annan formulering, en annan ordning, ibland ett annat innehåll. Och skruvas slumpen ner till lägsta läge kvarstår variation: beräkningen sker på hårdvara där ordningen mellan operationer kan skifta, underlaget som hämtas in kan skilja mellan två tillfällen, och leverantören kan ha uppdaterat modellen.

Följden är att ett prov som kördes en gång inte visar hur lösningen uppför sig. Ett svar som var rätt i går kan vara ett annat i dag.

Samtidigt blir likabehandling en praktisk fråga. Två personer som ställer samma fråga kan få olika svar, och ingen av dem ser att det fanns ett annat. Den som i efterhand ska förklara varför ett besked blev som det blev kan inte göra det, om ingen sparat vad som gick in och hur systemet var inställt just då.

Så här går det fel

Kravet formuleras som att systemet ska ge konsekventa svar. Alla anbudsgivare svarar ja, ingen kan hålla det, och kravet blir värdelöst att följa upp. Utvärderingen sker som en förevisning med några förberedda frågor.

I drift anmäler en handläggare ett felaktigt besked. Det går inte att återskapa, eftersom det som loggades var tidpunkt och modellversion och inte indata, inhämtat underlag och inställningar. Ärendet stängs som ett engångsfel, och samma sak händer igen tre veckor senare.

Det här måste någon bestämma

Var variation är acceptabel och var den inte är det.

I ett utkast som någon skriver om: acceptabelt. I ett belopp, en frist, en paragrafhänvisning eller ett ja och nej: inte acceptabelt. Då ska svaret inte formuleras av modellen utan hämtas från en beräkning eller en uppslagning som ger samma svar varje gång.

Sedan vad som godtas som bevis, och det måste avgöras innan ni ber om något, eftersom det styr vad ni ber om. En förevisning visar ett utfall av många. Vill ni veta hur lösningen beter sig behövs samma frågor körda många gånger och spridningen redovisad.