Kunskapskartan
Stor eller liten modell
Kvalitet, svarstid och kostnad går inte att maximera samtidigt, och den avvägningen är verksamhetens.
Två uppgifter i samma verktyg: sortera inkommande post, och skriva ett svar i ett svårt ärende. Den ena behöver nästan ingen tankekraft. Den andra behöver all som finns.
Modellens storlek är den ratt som avgör vilken av dem ni betalar för. En större modell har mer inlärda parametrar och mer beräkning bakom varje svar. Den klarar längre och mer sammansatta frågor, kostar mer per svar och svarar långsammare. En mindre räcker för avgränsade uppgifter: sortera ärenden, sammanfatta en text, plocka ut fält ur en blankett.
Storleken är dessutom bara en av rattarna. Hur mycket underlag som skickas med, hur uppgiften är formulerad och hur många steg lösningen tar väger lika tungt.
Väljs det största alternativet överallt för säkerhets skull betalar ni för resonemang där ingen behövde det, och det syns som en kostnad ingen kan förklara. Väljs det minsta överallt spricker det i just de ärenden där ett fel kostar mest. Och fel som beror på storleken är lätta att förväxla med fel som beror på svagt underlag, så modellen byts utan att någonting blir bättre.
Så här går det fel
Det största alternativet köps in till allt, eftersom det verkar tryggast. Sammanfattningar av inkommande e-post tar sju sekunder styck och kostar mer än de sparar.
I det svåra ärendeslaget slutar handläggarna ändå använda assistenten, av en helt annan orsak: underlaget var aldrig sökbart. Kostnaden hamnar i budgetberedningen som en post, och ingen mätning finns som skiljer det som beror på storleken från det som beror på underlaget.
Det här måste någon bestämma
Valet görs per användningsfall, och det ska gå att ompröva. Skriv ner vad varje fall kräver innan någon väljer: hur snabbt svaret måste komma, vad ett felaktigt svar kostar just där, och hur ofta uppgiften utförs.
Svarstid är ett verksamhetskrav med ett tak och inte en förhoppning. Taket gäller när många arbetar samtidigt, inte på en tom eftermiddag.
Vem som får ändra modellvalet behöver ett namn. En modell som byts utan att någon kör om testerna är en ändring i drift som ingen har granskat.