När RAG inte är svaret

En sökning hämtar ett bestämt antal avsnitt, de som liknar frågan mest, och skickar dem vidare till modellen. Det är hela mekaniken.

Den är byggd för frågor vars svar står i en text: vad gäller, hur går det till, vilken paragraf. Den är inte byggd för frågor vars svar kräver att hela mängden gås igenom eller att något räknas. Hur många ärenden av ett visst slag som avgjordes förra kvartalet besvaras inte av de fem avsnitt som råkade likna frågan mest.

Systemet svarar ändå. Det säger inte att frågan var av fel sort, för det finns ingenting i mekaniken som avgör den saken. Det får sina avsnitt och formulerar ett svar av dem. En siffra i det svaret ser ut som vilken siffra som helst.

Tre sorters frågor bryter mot mekaniken på samma sätt. Räkning och summering, där svaret kräver hela mängden. Aktuell status, där svaret finns i ett system just nu och inte i ett index som byggdes i natt. Och fullständighet, där frågan gäller alla eller inga, och där ett urval per definition inte kan svara.

Så här går det fel

Hur många överklaganden som kommit in i en ärendetyp, frågar en chef. Assistenten svarar med en siffra och tre exempel, hämtade ur de handlingar sökningen råkade träffa.

Siffran är inte fel på grund av ett fel i systemet. Den är ett svar formulerat ur ett urval, på en fråga som krävde hela mängden. Den går vidare in i en nämndrapport, och ingenting i svaret angav att det byggde på fem avsnitt av tusen.

Det här måste någon bestämma

Per fråga ni vill kunna ställa: om svaret ska hämtas ur text eller ur ett system.

Det är samma slags beslut som att inte låta en modell formulera ett belopp. Kräver frågan fullständighet eller aktuell status ska den besvaras av en uppslagning, en rapport eller en integration, och AI-stödet får på sin höjd formulera resultatet.

Och att ett urval ska synas som ett urval. En användare som ser att svaret bygger på fem avsnitt av tusen läser det annorlunda än en som ser en färdig mening.