Deterministiskt och generativt

Räknesnurran på intranätet kontrollerades en gång, av någon, för länge sedan. Sedan har ingen behövt göra det igen. Samma indata ger samma utdata, varje gång, och det är så era system är byggda: en beräkning, en uppslagning i ett register, en regel som prövar ett villkor.

Provet kan därför vara uttömmande. Ett fel är en bugg som går att peka ut i koden, och rättelsen håller.

Ett generativt steg har ingen av de tre egenskaperna. Svaret formas ur en fördelning av möjliga fortsättningar, ett prov visar ett utfall av många, och det som ser ut som ett fel behöver inte motsvara någon rad kod.

Det är det skiftet som gör att AI kräver egna ordningar. Loggningen, mätningen i drift, kravet att ett svar ska gå att köra om: inget av det är egenheter hos en bransch, utan följder av att det uttömmande provet försvann. Mycket av det ni redan kan bär fortfarande. Ni kan skriva avtal, följa upp en servicenivå och hålla någon ansvarig som förut. Men kvittot på att något är tillräckligt bra måste ha en annan form, och formen måste vara vald innan lösningen byggs.

Så här går det fel

Fyrtio beskrivna ärenden, alla besvarade rätt vid en genomgång. Så godkändes leveransen av ett skrivstöd för kreditbeslut. Provet kördes en gång.

Ett halvår senare kommer ett ärende av samma slag på banken och får ett annat svar, och den som byggde lösningen kan visa att ingenting har ändrats. Ingen rad kod är fel. Kvar finns ett godkänt prov och ett felaktigt beslut i samma hand. Ingenting i godkännandet mätte hur ofta samma fråga får två svar, så det finns inget tal att jämföra det nya utfallet med.

Det här måste någon bestämma

Gränsen mellan det som räknas och det som formuleras ritas före bygget, inte under. Beloppet räknas, fristen slås upp, paragrafen hämtas ur källan. Modellen får forma texten omkring det, och den delen är den enda som varierar.

Sedan behövs ett annat kvitto än det uttömmande provet. En tröskel över en samling fall ni själva äger, och en namngiven person som får säga att tröskeln är nådd. Utan det blir kvittot en förevisning.

Ett anmält fel klassas dessutom innan det åtgärdas. En bugg rättas i kod. En avvikelse rättas inte: uppgiften flyttas till ett steg som räknar, eller lösningen får göra mindre.