Dataskydd

Vad en språkmodell gör

En registerförteckning och en konsekvensbedömning beskriver en behandling, och en behandling sker på de ställen texten passerar. Beskrivs lösningen som en modell och en leverantör blir dokumentationen utförlig om det du inte kan granska och tom om det du kan.

• Läs beskrivningen av lösningen och se om den räknar upp de ställen där text faktiskt passerar, alltså inmatningen, det inhämtade underlaget, indexet, loggen och modellanropet. En beskrivning som benämner en modell och en leverantör beskriver ett inköp och inte en behandling.
• Ta en egenskap som beskrivs som ett skydd och se var den bärs: i vad som skickas in, i vad som får komma ut, i vad som loggas, eller i vem som får göra vad. Pekar svaret på hur modellen uppträder har du fått en utfästelse om avsikt, och den kan inte prövas i efterhand.
• Se vad lösningen gör när den inte kan svara, och om det beskedet finns någon annanstans än i ett samtal. Fyller den ut hamnar uppgifter i en handling utan att någon matat in dem, och de ser i handlingen ut som hämtade.

Deterministiskt och generativt

Det underlag du får inför ett ställningstagande är ofta ett godkänt test, och du förutsätts läsa det som ett kvitto utan att själv ha prövat vad som testades. Ett kvitto av fel slag ser här ut precis som ett riktigt.

• Läs godkännandehandlingen och se vad den jämför: ett bestämt rätt svar per testfall, eller en andel av en fallsamling. Står det inget om antal körningar per fall vilar godkännandet på enstaka utfall, och då säger det ingenting om hur lösningen beter sig i drift.
• Se om provet omfattade fall där en uppgift saknas och fall där något inte får lämnas ut, och inte bara fall som ska gå igenom. En samling som består av det lösningen ska klara prövar inte det du är där för att pröva.
• Se om den som ägde fallsamlingen är någon i verksamheten eller den som byggde. Är samlingen byggarens mäter provet att lösningen gör det den gör.

Varför den hittar på

Påhittet går inte att laga bort, eftersom det är samma räkning som ger de svar som blir rätt.

Hur du märker att svaret är fel

Ett felaktigt svar låter precis som ett riktigt, så det enda som avslöjar det är innehållet och aldrig tonen.

Varför svaret varierar

Samma fråga kan ge ett annat svar, och det är så systemet fungerar.

Vad modellen minns

Samtalshistoriken är det ställe där två åtaganden ni redan har drar i motsatt riktning, och den saknar oftast ett eget beslut, eftersom den ser ut som ett gränssnitt och inte som en databas.

• Slå upp samtalshistoriken i registerförteckningen och se om den finns där som en egen behandling med egen lagringstid. Har den ingen egen post är lagringstiden den som råkade komma med leveransen, satt av någon som inte kände era gallringsbeslut.
• Töm en historik i gränssnittet och fråga sedan efter samma uppgifter ur lagringen. Att historiken inte visas i vyn är det vanliga utfallet och inte ett besked om att den är borta.
• Läs vilka som kan läsa historiken, och ta med leverantörens supportfunktion i den frågan. Ett svar som räknar upp era egna roller har besvarat en annan fråga än den du ställde.

Personuppgifter i prompten

Behandlingen du ska kunna redovisa uppstår i ett arbetsmoment och inte i ett beslut, vilket betyder att den inte finns i något av de dokument du normalt granskar. Du hittar den bara genom att titta på hur arbetet går.

• Följ ett vanligt ärende genom arbetsdagen och se vilka fält som faktiskt klistras in i verktyget, i stället för att läsa vad rutinen säger får klistras in. Skillnaden mellan de två är den behandling som saknas i er förteckning.
• Gå igenom de program verksamheten redan använder och se var en chattruta tillkommit genom en uppdatering. Att funktionen ligger i ett upphandlat program är inget besked om att den ingick i det som prövades.
• Läs rutinen och se om den går att följa mitt i ett ärende. En uppmaning till försiktighet kan inte tillämpas av den som står med ett fält framför sig och ska bestämma sig nu.

Instruktioner är inte garantier

En instruktion är rätt redskap för att forma ett beteende och fel redskap för att garantera ett utfall.

Skugg-AI

Varje oköpt lösning är också en oköpt risk.

Träning och användning är olika saker

Beskedet verksamheten har fått är oftast att modellen inte lär sig av det som matas in, och det är riktigt. Frågan som återstår är en annan, och den besvaras i villkoren och inte av tekniken.

• Läs villkoren för den tjänst som faktiskt anropas och inte marknadsföringen av den. Det du letar efter är om inmatningen sparas, hur länge, och om den kan användas till att förbättra leverantörens egen produkt.
• Se om beskedet gäller den avtalade tjänsten eller det konto som används. Samma leverantör kan ha skilda villkor för de två, och den som svarar vet inte alltid vilket som gäller hos er.
• Se om något åtagande om radering omfattar uppgifter som gått in i en träning. Ett sådant åtagande går inte att hålla, eftersom ingen metod att avlära en enskild uppgift går att verifiera utifrån, och det är verifierbarheten beskedet vilar på.

Behörigheter som följer datan

Omfattningen av ett fel går inte att avgränsa i efterhand utan uppgift om vilken behörighetskontroll som gällde vid tillfället, och utan den uppgiften måste ni utgå från det värsta. Det är en följd du kan pröva medan ingenting har hänt.

• Se var filtreringen ligger: före sökningen, så att det otillåtna aldrig hämtas, eller efter, så att svaret städas. Ett svar om att modellen instrueras att inte visa vissa uppgifter är ett svar om att filtret inte finns.
• Ta ett verkligt konto med snäv behörighet och läs vad lösningen hämtar för det kontots frågor. Det du letar efter finns i det hämtade underlaget och inte i svaret, eftersom ett svar kan se städat ut och ändå vila på material hon inte fick se.
• Se om loggen bär vilken behörighetskontroll som gällde vid ett anrop. Bär den bara att ett anrop skedde går en händelse inte att avgränsa.
• Gå igenom vilka källor som gjorts sökbara och jämför med vilka som har en granskad åtkomst. Skillnaden är den mängd där ingen har tittat, och den ligger stilla ända till den dag någon ställer en fråga på vanlig svenska.

Inbäddningar och vektorer

Indexet beskrivs oftast som teknik och hamnar därför utanför den dokumentation du granskar, samtidigt som det är en av de platser där innehållet ligger. Att raderna ser ut som tal är skälet till att ingen tog upp dem.

• Slå upp indexet i registerförteckningen och i konsekvensbedömningen. Saknas det där är dokumentationen tom på just den plats uppgifterna ligger, och den bristen syns inte i något annat dokument.
• Se om textavsnittet ligger sparat bredvid vektorn, vilket det vanligen gör. Då är indexet inte en härledning utan en kopia av innehållet i en annan form, och det ändrar vad det är du granskar.
• Se vilken modell som skapade indexet och vad som händer när den byts. Ett index som byggs om är samma material behandlat på nytt, och den behandlingen sker oftast som en teknisk åtgärd utan att någon anmäler den.

Behandlingens kopior

En förteckning som namnger en leverantör räknar ett inköp. Den räknar inte de ställen samma text passerar. Det du granskar är om dokumentationen beskriver behandlingen eller avtalet.

• Räkna ställena i den lösning du har framför dig: inmatning, historik, index, anrop, svar och logg. Saknas ett av dem i förteckningen är det inte en lucka i dokumentationen. Det är en behandling ni inte har beskrivit.
• Se om konsekvensbedömningen vilar på samma lista. Prövar den ett system och en part prövar den inköpet, och de övriga ställena har inte bedömts.
• Be om uttag av vad som finns om en namngiven person från varje ställe, eller ett skriftligt besked att stället inte kan svara på den frågan. Ett nej på namn i indexet är inget besked om att uppgiften är borta där.
• Se hur ett tillkommande ställe anmäls. Byggs ett nytt index eller en ny logg utan att förteckningen rörs har behandlingen växt utan att någon beslutat om den.

Radering och vektorer

Här möts din vanligaste ärendetyp och den del av lösningen ingen tittar i. En begäran besvaras i källsystemet, medan beskedet som lämnas gäller uppgiften och inte den plats den raderades på.

• Läs förteckningen över var text ur källorna ligger i härledd form och se var den slutar. En förteckning som nämner indexet men inte mellanlager, cache, sparade svar och säkerhetskopior är ofullständig, och det är de sista posterna som brukar saknas.
• Ta ett ärende där radering redan beviljats och ställ den fråga indexet svarar på, alltså en fråga om innehållet och inte om personen. Det är den vägen uppgiften fortsätter att hämtas, och den syns inte i en sökning på namn.
• Se om raderingskedjan är byggd eller planerad, och låt den förevisas i stället för beskrivas. Ett svar om att radering sker automatiskt är inget svar på var kopiorna ligger.
• Läs vad som gäller vid en återställning ur säkerhetskopia. Finns ingen rutin som hindrar att raderade uppgifter kommer tillbaka gäller ert besked till nästa återställning och inte längre.

Var datan får ligga

En utfästelse du får är nästan alltid sann om något, och ditt arbete är att avgöra om det är samma sak som frågan gällde. Den som lämnar den behöver inte säga något osant för att du ska bli vilseledd.

• Ta utfästelsen om europeisk hantering och pröva den del för del: gränssnittet, dokumentlagringen, indexet, loggarna och modellanropet. Det är modellanropet som brukar falla utanför, och det faller utanför utan att någon har sagt något osant.
• Läs förteckningen över biträden och underbiträden och jämför med vad som faktiskt anropas i en körning. En förteckning som stämde när avtalet tecknades stämmer inte efter ett underbiträde som tillkommit sedan.
• Se om ni kan nå era egna uppgifter själva eller bara genom en beställning hos leverantören. Måste ni beställa ett utdrag är det leverantörens tid och inte er som avgör om en frist hålls.
• Se vem som håller krypteringsnycklarna. Håller leverantören dem skyddar krypteringen mot alla utom den part frågan gällde.

Var modellen körs

Din fråga här är inte var något ligger utan vem som kan läsa, och de två besvaras med samma ord i de svar du får. En supportfunktion som kan öppna era loggar har uppgifterna i sin hand utan att en fil har flyttats.

• Läs var lösningen driftas, och läs sedan separat var supporten sitter och vem som kan öppna en logg vid felsökning. Det andra svaret finns nästan aldrig i det första.
• Se om leverantören eller dess moderbolag lyder under lagstiftning som ger en utländsk myndighet rätt att begära ut uppgifter. Ett avtalsvillkor som säger att så inte får ske besvarar en annan sak än den du frågade om, eftersom avtalet inte kan hindra det.
• Gå igenom underleverantörskedjan för modellanropet och inte för plattformen. Det är där kedjan brukar sluta inom Europa och fortsätta någon annanstans.

Vad som måste loggas

Loggen är samtidigt det som ska skydda er och en samling känsliga uppgifter ur många ärenden på ett ställe, och de två sidorna beslutas nästan aldrig i samma möte. Det är den dubbelheten du granskar, och inte om loggning finns.

• Begär ett verkligt loggutdrag för ett enskilt ärende och läs det fält för fält. Det du avgör är vilket av två skilda åtaganden som är byggt: att kunna styrka att en text är orörd, eller att kunna ta fram vad som stod i svaret.
• Se om loggen har egen rättslig grund, egen lagringstid och egen plats i förteckningen, skild från samtalshistoriken. Är inställningarna identiska har de sannolikt ärvt varandra utan att någon valt dem.
• Läs vilka som kan läsa i loggen och håll det mot vilka som får läsa i källsystemet. Bär loggen hela prompter bär den källans sekretess, och läsrätten är ändå oftast satt som för en driftlogg.
• Räkna hur ofta de valfria fälten står tomma i ett verkligt utdrag över en period. Ett fält som finns i specifikationen och står tomt i praktiken är ingen del av spåret.

Transparens mot medborgare

Rätten att få ett beslut omprövat av en människa blir innehållslös om den som prövar har samma sammanfattning framför sig som den som beslutade. Det är en fråga om vad hon får se, och den avgörs i gränssnittet.

• Ta ett omprövningsärende och se vad den som prövade faktiskt hade framför sig: akten, eller samma sammanfattning som den första handläggaren. Är det det andra prövades samma sak två gånger.
• Se om motiveringen bärs av egna fält, alltså vilka uppgifter ur ärendet som gick in, vilka källor med version och datum som användes och vilka regler som tillämpades, eller om texten formulerades i efterhand. En välskriven text kan vara det andra, och skillnaden syns inte i texten.
• Se om märkningen av maskinellt framtagen text följer med i utskrifter och utlämnade handlingar, eller bara visas i gränssnittet. Det är i den utlämnade handlingen upplysningen behövs.