Medarbetaren

Först det som gäller oavsett roll

1. Vad en språkmodell gör

   Verktyget slår inte upp ett svar, det skriver en text som ser ut som ett svar. Det har ingen egen uppfattning om era rutiner, om sekretessen i ditt ärendeslag eller om vad du får se, och det kan inte neka det ingen sagt åt det att neka. Det gör att kontrollen aldrig sitter inne i verktyget utan i vad du skickar in och vad du gör med det som kommer ut.

   • Behandla varje svar som ett förslag på en text och inte som ett uppslag i ett register. Det är skillnaden som avgör om du kontrollerar det eller inte.
   • För aldrig in en text i en handling, ett besked eller ett beslut utan att kunna stå för varje uppgift i den själv. Det är ditt namn som står på handlingen.
   • Ska texten nå någon utanför verksamheten, ta reda på om verktyget märker den som maskinellt framtagen. Gör det inte det, skriv om texten så att den är din innan den går ut.

2. Deterministiskt och generativt

   De system du arbetar i i övrigt ger samma svar på samma fråga varje gång, och det är därför du kan lita på dem efter att ha kontrollerat dem en gång. Den egenskapen finns inte här. Ett svar som var rätt i går är inte ett löfte om dagens svar, och ett fel behöver inte motsvara någonting som gått sönder.

   • Låt inte verktyget räkna eller slå upp. Belopp, frister, datum och paragrafhänvisningar hämtar du där de faktiskt räknas eller står, och låter verktyget forma texten omkring dem.
   • Kontrollera per svar och inte per verktyg. Att det stämt de senaste tjugo gångerna är ingen upplysning om det tjugoförsta.
   • Notera när du anmäler ett fel om det gäller just det svaret eller om samma sak återkommit. Det är den skillnaden den som förvaltar verktyget arbetar utifrån.

3. Varför den hittar på

   Att verktyget hittar på är inte ett fel som kan lagas, det är samma mekanism som ger de svar som blir rätt. Det farliga påhittet är därför inte det uppenbara utan det rimliga: ett belopp nära det riktiga, en paragraf som finns men handlar om annat, ett datum som stämmer för ett annat ärendeslag.

   • Öppna källan. En hänvisning kontrolleras genom att följas, inte genom att bedömas som trolig, eftersom en påhittad hänvisning ser ut precis som en äkta.
   • Var särskilt uppmärksam när frågan gäller er egen rutin, ett ovanligt ärendeslag eller en detalj som inte fanns i det du matade in. Där har verktyget minst att gå på och svarar ändå.
   • Be inte verktyget bekräfta sitt eget svar. Ett ja på frågan om det stämmer är en ny sannolik fortsättning och inte en kontroll.

4. Hur du märker att svaret är fel

   Ett felaktigt svar låter precis som ett riktigt, eftersom båda kommer ur samma räkning. Ingenting i tonen, säkerheten eller formuleringen avslöjar det. Det som avslöjar det är innehållet, och det kan bara du se, eftersom det är du som har ärendet framför dig.

   • Gå igenom de fyra innan du använder ett svar: går hänvisningen att följa, är uppgiften för precis för att kunna vara känd, stämmer namnet och datumet, och svarar svaret på den fråga du ställde.
   • Anmäl felet där verktyget erbjuder det, och lämna svaret som det såg ut. Ett fel som formulerats om av den som anmäler går inte att utreda.
   • Finns ingen väg att anmäla: rätta i din egen text, och säg till din chef att verktyget saknar ett ställe att anmäla på. Det är den upplysningen som saknas hos dem som ska följa upp, och den finns bara hos dig.

5. Varför svaret varierar

   Samma fråga kan ge en annan formulering, en annan ordning och ibland ett annat innehåll. Variationen är hur systemet fungerar och inte något som går att felsöka bort. Följden för dig är att verktyget inte är en källa: två personer som frågar samma sak kan få olika svar, och ingen av dem ser att det fanns ett annat.

   • Ställ en fråga du är osäker på en gång till och jämför. Skiljer sig svaren i sak och inte bara i språk har du fått veta att ingetdera går att luta sig mot.
   • Hänvisa till källan och aldrig till vad verktyget sa, också när du talar med en kollega. Ett svar hon får på samma fråga kan vara ett annat.
   • Ska svaret bära ett besked, spara frågan och svaret tillsammans med ärendet. Utan det kan du inte i efterhand visa vad du hade framför dig när du skrev.

6. Vad modellen minns

   Verktyget minns ingenting mellan anrop, men programmet runt det sparar. Att en chatt tycks komma ihåg vad du skrev för tio minuter sedan betyder att texten finns lagrad någonstans och skickas in på nytt. Det som ser ut som glömska i gränssnittet är oftast att historiken inte visas.

   • Utgå från att allt du skriver in finns kvar efter att du stängt fönstret, och skriv därför bara det du skulle skriva i ett system som sparar.
   • Ett samtal som försvinner ur vyn är inte raderat. Behandla det som sparat till dess någon visat dig var det ligger och hur länge.
   • Har verktyget en minnesfunktion, ta reda på om den är påslagen. Den bär innehåll från ett ärende in i nästa utan att någon prövat om det hör dit.

7. Personuppgifter i prompten

   Gränsen mellan att använda ett verktyg och att lämna ut uppgifter går rakt genom arbetsdagen, och den passeras utan att någon fattar ett beslut. Fältet ser ut som ett sökfält, och ingenting i det markerar att en gräns finns. Klistrar du in ett ärende följer allt med: namnet, personnumret, det som står om hälsa, det som står om familjen.

   • Klistra aldrig in namn, personnummer, adresser eller uppgifter om hälsa och familj i ett verktyg där du inte fått besked om vart texten går och vem som kan läsa den. Har du inte fått beskedet är det beskedet du ska be om.
   • Fråga om formen, mönstret eller regeln i stället för att klistra in ärendet, när frågan går att ställa så. Ett avidentifierat exempel ger ofta samma hjälp.
   • Har du redan matat in något som inte borde ha gått in: säg det samma dag till den som äger verktyget. Det är ingen bekännelse utan en upplysning om var text hamnat, och den behövs den dag någon frågar vad som lämnats ut.
   • En AI-funktion som dykt upp i ett program du redan använder är inte godkänd av att den finns där. Fråga innan du matar in ett ärende i den.

8. Instruktioner är inte garantier

   Mycket av det som beskrivs som en säkerhetsegenskap i ett AI-verktyg är text som lagts till underlaget, inte en regel som prövas innan svaret lämnas. En sådan utfästelse håller i det normala fallet och brister när något ovanligt händer, alltså precis då den behövdes. Det som faktiskt hindrar är att förmågan inte finns.

   • Läs det verktyget säger om sig självt som en beskrivning av avsikt. Att det står att personuppgifter inte lämnas ut betyder att det är mindre sannolikt, inte att det är omöjligt.
   • Visar verktyget dig något du inte skulle ha sett: använd det inte, för det inte vidare, och anmäl det. Att du kunde se det betyder att spärren inte fanns, och det är en uppgift någon behöver.
   • Skriv inte en regel du måste hålla som en instruktion till verktyget. Ber du det att aldrig återge ett namn kommer det oftast att låta bli, och oftast räcker inte när regeln är ett krav.

9. Skugg-AI

   Ett verktyg du hittat själv har ingen ägare hos er, inget avtal med den som tar emot texten, inget spår och ingen gräns för vad som får matas in. Skillnaden mot det du blivit tilldelad är alltså inte hur bra svaren är. Ett förbud utan ett dugligt alternativ löser det inte heller, vilket är skälet att din bild av vad du behöver är värd något.

   • Använd inte ett verktyg du hittat själv till riktiga ärenden, oavsett hur mycket bättre svaren är. Det som saknas är inte kvaliteten utan någon som svarar för var texten hamnade.
   • Logga aldrig in i något du använder i arbetet med en privat adress. Det som skrivs där är ändå upprättat i tjänsten, medan varken du eller verksamheten kommer åt det när någon begär ut det.
   • Duger inte det godkända verktyget till den uppgift du har: säg vilken uppgift det gäller, konkret, till din chef. Det är den upplysningen som kan ändra något, och ingen annan har den.
   • Fråga innan du börjar använda något nytt, också när det är kostnadsfritt, också när det ligger i webbläsaren, och också när en kollega redan använder det.