Träning och användning är olika saker

”Lär den sig av det vi skriver in?” är rätt fråga ställd på fel plats.

Modellen lär sig inte. Träning och användning är två skilda skeenden. Under träningen byggs modellens vikter av mycket stora textmängder, en gång, i förväg, hos den som tillverkar modellen. När ni sedan använder den läser den er text, räknar fram ett svar och ändrar ingenting i sig själv. Vikterna är exakt desamma före och efter ert anrop, och modellens kunnande är fruset vid den tidpunkt träningen avslutades.

Leverantören kan däremot spara det ni skickar in och använda det till att träna en kommande modell. Det är ett beslut i deras villkor och inte en egenskap hos tekniken, och skillnaden avgör vad ni kan lova.

En uppgift som tränats in går nämligen inte att intyga bort. Det forskas på att avlära enskilda uppgifter ur färdiga vikter, men ingen metod går att kontrollera utifrån, så ni kan inte visa att uppgiften är borta. Ett åtagande att radera blir då omöjligt att hålla, hur väl det än är formulerat.

Så här går det fel

En vårdgivare provar ett verktyg i dess kostnadsfria läge under en pilot. Villkoren för just det läget tillåter träning, och ingen har läst dem, så gränsen mellan användning och träning är förutsatt och inte skriven. Piloten pågår i nio månader med verkliga ärendetexter.

När avtalet väl tecknas går det som redan lämnats ifrån sig inte att ta tillbaka. Uppgifterna ligger i vikter, och en radering i vikter går inte att kontrollera utifrån. Det som saknas är inte en åtgärd utan ett mått. Utan måttet finns inget besked att lämna den som frågar.

Vad det innebär juridiskt

Använder leverantören era uppgifter för att förbättra sin egen produkt behandlar de dem för sitt eget ändamål. Då är de inte längre bara personuppgiftsbiträde utan personuppgiftsansvarig för den behandlingen, och den ligger utanför ert biträdesavtal. Frågan för er är utlämnandet: det behöver en egen rättslig grund, och den följer inte av att ni köpt tjänsten. Rör det sekretessreglerade uppgifter kan överlämnandet dessutom vara ett röjande i sig.

Det här måste någon bestämma

Gränsen mellan användning och träning ska vara skriven och inte förutsatt, och den gäller hela kedjan: leverantören, den som levererar modellen till leverantören, och den som driftar den.

Sedan finns de övriga ändamålen. ”Vi tränar inte på era data” stänger en dörr och säger ingenting om produktförbättring, missbruksövervakning eller mänsklig granskning av enskilda samtal. De tre bär olika risk och kräver olika svar, och de besvaras var för sig. Uppräkningen är inte fullständig, eftersom det är leverantören som vet vilka ändamål som finns, så frågan ställs öppen.

Är svaret oklart gäller ett förhandsläge: uppgifterna används till att besvara anropet och till ingenting annat.