Varför datan är flaskhalsen

Ett AI-stöd som ska svara på frågor om er verksamhet gör två saker. Det hämtar underlag ur det ni har. Det formulerar ett svar av det underlaget.

Modellen sköter formuleringen. Vad som finns att formulera av bestäms av era dokument, era system och hur väl det går att hitta i dem. Taket sätts alltså innan modellen kommer in i bilden. En modell som inte fick läsa rätt sak kan inte svara rätt, hur skickligt den än skriver.

Modellen är samtidigt det som är lätt att jämföra mellan anbud. Den är också utbytbar. Underlaget avgör utfallet och är ett arbete i stället för ett inköp: någon hos er måste veta vad som gäller, vad som är ersatt, och var det står.

Det arbetet syns sällan som en post i en kalkyl. Det går heller inte att lägga över på en leverantör, eftersom det kräver kännedom om verksamheten. Och delar av det ni vill fråga om finns inte i text alls. Det sitter hos erfarna handläggare, eller som poster i ett verksamhetssystem, och en sökning i dokument når det aldrig.

Så här går det fel

Upphandlingen avgörs på modellens förmåga. Det som lösningen ska svara ur avfärdas i en mening som befintlig dokumentation. Leveransen går enligt plan.

Först i drift visar det sig att en stor del av handlingarna är inskannade utan textlager och därför osynliga för sökningen. Svaren på resten bygger på riktlinjer som ersatts. Projektet begär mer pengar för ett arbete ingen räknat med, och lösningen beskrivs som misslyckad fast den gör precis det den byggdes för.

Det här måste någon bestämma

Vilket underlag lösningen ska svara ur. Det beslutet fattas per användningsfall och inte en gång för hela organisationen.

Vem som gör arbetet med underlaget, och när det ska vara gjort. Före driftsättning, inte parallellt med den.

Framför allt om ni är beredda att betala för det arbetet. Väljer ni bort det har ni valt kvaliteten på svaren, även om beslutet såg ut att handla om något annat. Och vad som ska hända med de frågor underlaget inte kan besvara: de lämnas till en människa, inte besvaras ändå.