Chefen

Vad en språkmodell gör

Verktyget har ingen uppfattning om era rutiner eller om vad någon i din enhet får se, och det kan inte neka det ingen sagt åt det att neka. Det som ska hindra ligger därför i vad du tillåter att det används till.

• Bestäm vilka arbetsuppgifter verktyget får användas till hos dig och vilka det inte får, och säg det med uppgifternas namn i stället för som en allmän uppmaning till försiktighet.
• Tillåt inte att en maskinskriven text lämnar enheten utan att en medarbetare kan stå för varje uppgift i den själv. Det är hennes namn som står på handlingen och ditt på enhetens arbete.
• Begär besked om vad verktyget gör när det inte kan svara: gissar det, avstår det, eller lämnar det över till en människa. Får du inget besked har du inte underlag att tillåta det för riktiga ärenden.

Deterministiskt och generativt

Ditt vanliga sätt att lita på ett system är att någon kontrollerade det en gång och att det sedan svarar likadant. Den kopplingen finns inte här, så kontrollen kan inte ligga i införandet utan måste ligga i arbetet varje dag.

• Skriv ned vilka uppgifter som aldrig får hämtas ur verktyget: belopp, frister, datum och paragrafhänvisningar. En gräns var och en får dra själv blir olika i tio händer, och skillnaden syns inte förrän i ett ärende.
• Fråga vem som ägde de fall lösningen prövades mot innan den kom till din enhet, och om någon hos dig var med. Var ingen det prövades den mot en annan verklighet än din.
• Kräv att den som anmäler ett fel anger om det gäller just det svaret eller om samma sak återkommit. Det är den skillnaden som avgör om du har något att föra vidare.

Varför den hittar på

Ju bättre verktyget svarar, desto mindre kontrolleras det, och den glidningen sker hos medarbetare som gör sitt arbete väl. Därför måste kontrollen vara en regel du satt och inte en bedömning var och en gör i stunden.

• Bestäm vilka svar som alltid kontrolleras mot källan innan de används, och dra gränsen vid det som någon annan sedan förlitar sig på.
• Fråga efter antalet anmälda fel från din enhet, och läs noll som en fråga och inte som ett besked. Noll betyder antingen att inget gått fel eller att det inte finns någonstans att anmäla.
• Säg till dina medarbetare att en anmälan är en upplysning och inte ett erkännande. Sägs det inte rättas felen i tysthet, och då finns de ingenstans.

Hur du märker att svaret är fel

Du sitter inte med svaren, det gör dina medarbetare. Det du råder över är om de vet vad de ska titta efter och om de har tid att göra det, och tiden är det första som försvinner när volymen ökar.

• Gör de fyra tecknen till enhetens gemensamma kontroll: en hänvisning som inte går att följa, en uppgift som är för precis för att kunna vara känd, ett namn eller datum som inte stämmer, och ett svar som är rimligt men inte svarar på frågan.
• Säg vad den tid verktyget frigör ska gå till innan det införs. Går den till fler ärenden har du tagit bort kontrollen i samma stund som du skapade behovet av den.
• Fråga med jämna mellanrum en medarbetare om hon hittat något fel och vad hon gjorde med det. Att hon inte hittat något är också ett svar, och det säger något om hur kontrollen faktiskt utförs.

Varför svaret varierar

Samma fråga kan ge ett annat svar, och det är så systemet fungerar.

Vad modellen minns

Allt som ser ut som minne är text som sparats och skickas in på nytt.

Personuppgifter i prompten

Gränsen passeras mitt i ett ärende utan att någon fattar ett beslut, och en allmän uppmaning till försiktighet hjälper inte den som står mitt i det. Du är nära nog arbetet för att kunna säga vilka fält ur vilket system som får följa med.

• Skriv ned vilka uppgiftsslag som får matas in i vilket verktyg, uttryckt så att det går att följa mitt i ett ärende: vilka fält ur vilket system som får följa med och vilka som ska tas bort.
• Tillåt inte att en AI-funktion som dykt upp i ett program enheten redan använder tas i bruk för riktiga ärenden förrän någon svarat att den är godkänd. Att den finns där är inget godkännande.
• Säg i förväg vad en medarbetare ska göra om hon redan matat in något som inte borde ha gått in: till vem, och samma dag. Sägs det inte i förväg sägs det inte alls.
• Bestäm vad enheten gör i stället. Ett förbud utan alternativ lämnar kvar en uppgift som fortfarande ska lösas.

Instruktioner är inte garantier

Det du fått höra att verktyget aldrig gör är ofta text i en instruktion och inte en spärr, och du är den som för beskedet vidare till din enhet. För du vidare en utfästelse du inte prövat blir den din.

• Tillåt inte att en utfästelse om vad verktyget aldrig gör används som skäl att slippa en kontroll hos dig, förrän någon visat var det hindras utanför modellen.
• Kräv att en medarbetare som ser något hon inte skulle ha sett slutar använda svaret, inte för det vidare, och säger det till dig samma dag. Att hon kunde se det betyder att spärren inte fanns.
• För den uppgiften vidare till den som äger lösningen, och nöj dig inte med beskedet att instruktionen är oförändrad. Det svaret handlar om avsikt, och din fråga gällde vad som hände.

Skugg-AI

Hos dig är det här inte ett fenomen utan en person med en uppgift hon behöver lösa. Du är den enda som kan namnge uppgiften, och det är uppgiften och inte produktnamnet som kan ändra något.

• Fråga rakt ut vad enheten använder, och säg i förväg att svaret inte får en påföljd. En fråga som bara kan besvaras med ett erkännande besvaras inte.
• Tillåt inte att riktiga ärenden hanteras i ett verktyg ingen hos er äger, och tillåt aldrig inloggning med en privat adress. Det som skrivs där är upprättat i tjänsten, och varken du eller enheten kommer åt det när någon begär ut det.
• För vidare vilken uppgift det gäller, konkret, till den som kan köpa något. Ett besked om att medarbetare använder ett verktyg leder ingenstans. Ett besked om vilken uppgift den godkända vägen inte klarar gör det.

När granskningen slutar granska

Det här är en glidning ingen ovanför dig kan se, eftersom en logg som noterar att granskningen skedde ser likadan ut i båda fallen. Du står nära nog för att märka när en granskare börjar bekräfta i stället för att pröva.

• Behandla granskningen som ett eget arbetsmoment med egen tid i schemat, och tillåt den inte som ett sista kryss i slutet av ett flöde med kö.
• Fråga varje granskare hur många förslag hon ändrat eller underkänt den senaste tiden. Ett svar nära noll är inte ett kvitto utan det som ska undersökas, och det finns bara att undersöka om du frågar.
• Tillåt hellre ett stickprov som verkligen granskas än en fullständig granskning som blivit en bekräftelse. Säg det högt, eftersom en medarbetare inte själv kan sänka en rutin.
• Lämna vidare när volymen gör granskningen omöjlig att utföra. Det är ett beslut om bemanning och inte om arbetssätt, och det ligger inte hos dig.

Vem äger lösningen

Du äger inte lösningen, och det är just därför du behöver veta vem som gör det. Ett verktyg utan ägare i verksamheten har ingen som kan ändra det och ingen som kan stänga av det, och din enhet blir platsen där följderna märks först.

• Ta reda på namnet på den som äger varje AI-verktyg din enhet använder, innan du tillåter det. Finns inget namn har du ingen att lämna en anmälan till, och varje fel stannar hos dig.
• Tillåt inte att enheten gör sig beroende av ett verktyg vars ägare inte kan stänga av det ensam. Det du inte kan få stoppat får du leva med.
• Be att få se det som följs upp för det verktyg din enhet använder, i en form du kan läsa utan att någon tolkar det åt dig. Kommer ingenting är det den saken du för vidare.

När arbetssättet blir systemet

Det som görs hos dig är systemet, också när ingen beslutat om det. Det du kan se, och ingen annan, är vilken uppgift den godkända vägen inte klarar. Lämnar du vidare ett intryck i stället för den uppgiften har du sett men inte fört vidare.

• Tillåt att det som görs i enheten sägs högt, också när det avviker från det beslutade. Straffas avvikelsen får du den godkända bilden och inte den faktiska.
• Lämna vidare en namngiven uppgift, konkret nog att den som kan köpa eller bygga något kan ta emot den. Ett besked om att folk använder ett verktyg leder ingenstans.
• Tillåt inte att enheten i tysthet fyller en lucka som ska vara en signal. En genväg som fungerar tre veckor i rad är redan ett system, och då är det för sent att lämna vidare uppgiften.

Piloten som får misslyckas

Piloten körs i din enhet, och det är dina medarbetare som lägger om sitt arbete efter den. Det som gör en nedläggning omöjlig är oftast att arbetet redan hunnit forma sig efter lösningen, och den förändringen är du närmast.

• Säg ja till en pilot bara om du fått veta vad som räknas som ett för dåligt utfall och vem som får avbryta. Är svaret att du får avbryta ska det stå någonstans utanför det samtal där du fick höra det.
• Skriv ned under piloten vad som inte höll: vilka svar som var ojämna och vilka uppgifter som inte gick att lösa. Utan den anteckningen finns bara intrycket att det fungerade, och intryck vinner mot minnen.
• Tillåt inte att enheten lägger om ett arbetssätt permanent medan piloten pågår. Har arbetet redan lagts om finns inget beslut kvar att fatta när piloten är slut.