Hvitbok om personvern, databeskyttelse og helsevesenet
Personvern?
Et vanlig spørsmål om Kepler Night Nurse: hvordan er det egentlig med personvernet? Siden vi bruker den aller nyeste teknologien innen datasyn, forstår vi spørsmålet.
Hvordan er det med klientens personvern? Og hva skjer med opplysningene?
Kunstig intelligens, som datavisjon er en del av, blir svært viktig. Teknologiselskaper som Google og Facebook investerer i det, konserner som det japanske Softbank, og også kjente navn som Albert Heijn og TomTom. Og de investerer store beløp i det. Også myndighetene investerer: De franske, tyske og britiske myndighetene investerer hver mer enn 1 milliard, og EU ligger ikke etter.
Det skrives mye i media om kunstig intelligens – eller AI, som det heter på engelsk. For eksempel skal tusenvis av Amazon-ansatte i all hemmelighet lytte til opptak fra smarte hjemmeapparater som kan bestille ting for deg når du snakker til dem, se her.
Kepler bruker også kunstig intelligens. Vi bruker smart programvare til å holde øye med mennesker i deres private omgivelser som ikke lenger klarer å ta vare på seg selv. Det dreier seg om eldre og funksjonshemmede. Er det greit? Vi synes det er naturlig å svare på noen spørsmål om dette. I denne hvitboken forklarer vi hvordan Keplers datainnsamling fungerer og hvordan vi håndterer personvern og databeskyttelse.
Hva gjør Keplers programvare egentlig?
Programvaren vår heter «Kepler Night Nurse». Kepler Night Nurse fungerer ved hjelp av datavisjon. Kepler-teamet har lang erfaring med denne programvaren. Som et spin-off fra Universitetet i Amsterdam har vi studert denne teknologien i over tjue år. Målet med Keplers datavisjon er å fastslå om noen trenger hjelp, for eksempel hvis noen ikke klarer å komme seg ut av sengen. På den måten hjelper vi helsepersonell med å ta enda bedre vare på pasientene.
Frem til Kepler Night Nurse ble innført, tok pleiepersonalet seg av pasientene ved å stikke innom dem med jevne mellomrom. Retningslinjene sier at dette skal gjøres to ganger per natt. Hver pasient, hver natt og hvert rom. Det er et rimelig krav, siden man ikke vet hvordan det går med dem man pleier, men det er krevende og krever mye innsats. Dessuten setter ikke alle like stor pris på at en pleier kommer på besøk to ganger hver natt. Det er akkurat som om man som barn blir overvåket på nytt. Kepler ønsker å gjøre noe for både pasienten og pleiepersonalet: de utvikler programvare som ved hjelp av datavisjon prøver å fastslå så godt som mulig om noen trenger pleie, for eksempel hvis vedkommende har falt. I så fall varsler programvaren omsorgspersonen. Vi streber etter at Keplers programvare kun skal varsle når det faktisk er noe galt. Så lenge teknologien ikke er perfekt, kan det hende at varselet kommer uten grunn, men hvis det er en god grunn til det, har verken omsorgspersonen eller brukeren noe imot at omsorgspersonen kommer innom for å se til: verken omsorgspersonen eller brukeren.
Hvorfor samler Kepler inn data?
Vi har lagt merke til at datavisjon i praksis egentlig aldri fungerer med en gang. Selv om vi har jobbet hardt med dette sammen med et erfarent team av forskere, er det nødvendig å forbedre teknologien for hvert enkelt sted. For å gjøre det må vi gjennomføre grundige tester. Det er helt riktig. Det handler om mennesker og omsorg for mennesker, så vi prøver å gjøre det som er bra, enda bedre.
Det er mulig å få eksisterende algoritmer til å fungere hundre ganger bedre. Hundre ganger færre falske alarmer betyr hundre ganger færre turer om natten og færre ganger man må åpne et rom om natten. Videre kan vi, ved hjelp av bedre algoritmer, redusere risikoen for at en reell ulykke overses enda mer.
For å få dette til og teste det, må du vise eksempler til programvaren. I disse eksemplene peker et menneske manuelt ut hvor i bildet noe skjer. Dette kalles «annotering». Det dreier seg da om bilder eller korte videoklipp der noe relevant skjer, for eksempel å falle eller ikke klare å komme seg ut av sengen. Hvordan dette fungerer, forklares i en video på demosiden. Etter å ha samlet inn de annoterte eksemplene lærer datamaskinen å se, kan den analysere bildene bedre og blir dermed en bedre omsorgsovervåker. Da kan Kepler Night Nurse gi helsepersonellet bedre råd: det er noe på gang. Dette er grunnen til at Kepler samler inn data.
Hvordan er det i praksis?
Datasyntese lærer sakte. For at Kepler Night Nurse skal lære, må tusenvis av timer med videoer gjennomgås. Det er logisk, for det meste av det som skjer om natten er heldigvis ikke interessant: alle sover fredelig, snur seg av og til, og selv de som har urolige drømmer, skal ikke utløse et alarm. Nedenfor gir vi noen eksempler på vanskelige situasjoner vi støter på:
Kepler Night Nurse -programvaren har av og til problemer med å gjenkjenne kroppsstillinger riktig. Dette skjer for eksempel når en person reiser seg fra sittende stilling. Da sitter ikke personen, men står heller ikke. Programvaren klarer ikke å klassifisere dette riktig. Ved å trene opp programvaren lærer den seg denne måten å reise seg på.
Hvis det sto en Maria-figur i et rom, ble figuren oppfattet som en person. Det er forståelig, for en Maria-figur ligner på en liten, stående person. Kepler Night Nurse må da ha sett noen eksempler for å kunne skille mellom dem. Eller det kunne hende at hvis en hatt hang på en kleshenger over en jakke, med støvler under, ble dette oppfattet som en person. Også forståelig, for selv et menneske kunne bli skremt av det. Programvaren må også lære dette først.
Personer som vises i en video blir ikke alltid umiddelbart gjenkjent som sådan av programvaren. Dette skjer for eksempel når noen ligger i sengen og trekker teppene langt opp over seg. Akkurat som mennesker vet er Kepler Night Nurse ikke alltid helt sikker og må derfor samle erfaring med dette.
Med dagens teknologiske nivå må kunstig intelligens stadig lære alt på nytt når det oppstår en ny situasjon som ikke gjenkjennes. I praksis betyr dette at når Kepler Night Nurse trenes på nytt, skjer dette med de opprinnelige bildene. I tillegg legges de nye bildene som har ført til feilaktige analyser, til. For å kunne forbedre programvaren og forhindre feil, er det viktig at Kepler lagrer en liten del (i praksis mindre enn 0,01 %) av bildene.
Hvem ser på opptakene?
Bildene blir gjennomgått av annotatorer hos Kepler. Dette er personer som jobber fire timer om dagen på Keplers kontor. Det går ikke lenger enn det, for arbeidet er kjedelig. En av våre annotatorer er for eksempel billedkunstner, og for ham er annoteringsarbeidet en bijobb. En annen annotator skriver en bok og lette etter en ekstrainntekt der han helst ikke trenger å tenke. Annotatorene har en nederlandsk ansettelsesavtale hos Kepler som inneholder taushetsplikt. Arbeidet blir altså ikke outsourcet til et lavlønnsland. Bildene forblir hos Kepler.
Hva skjer egentlig med bildene?
Man ser på en video og setter den på pause når det skjer noe interessant, for å tegne en ramme rundt en person på skjermen. Denne rammen gis et navn, for eksempel «person sitter». Deretter går man videre til neste bilde i videoen der noe interessant skjer. Og så videre, helt til alle bildene der det er noe å lære, er annotert. Det tar noen sekunder å annotere et stillbilde. Noen ganger sjekker en annen annotator arbeidet til sin kollega, men etter det blir videoen egentlig aldri sett på igjen.
Annotatorene arbeider på sikrede bærbare datamaskiner som ikke er koblet til det offentlige internett, og som utelukkende er beregnet på annoteringsarbeid. Bildene eller videoene lagres ikke på disse bærbare PC-ene, og USB-portene på dem fungerer ikke. For å forhindre at innstillingene på de bærbare PC-ene endres, legges de i safe etter hver arbeidsdag.
Og hvor lenge blir dataene oppbevart?
Bildene som samles inn av Kepler lagres så lenge som fastsatt i databehandleravtalen med helseinstitusjonen. Vanligvis innebærer dette at bildene slettes etter at Kepler Night Nurse -programvarelisensavtalen.
Hvordan står det egentlig til med personvernet nå?
Vi legger vekt på personvern av følgende grunner:
Den første grunnen er at det du gjør, ikke angår andre som du ikke kjenner. Et ofte hørt argument er at personvern ikke er viktig så lenge du ikke gjør noe ulovlig. Derfor bør myndighetenes etterretningstjenester få tilgang til nøklene for å kunne lese krypterte meldinger. Men slik er det selvfølgelig ikke. Når du går på toalettet, lukker du døren. Du gjør ikke noe ulovlig, men det betyr likevel ikke at husfeller, institusjonen du befinner deg på eller offentlige etater skal ha lov til å se på deg. Det er toalettet. Det samme gjelder hva du skriver i dagboken din, eller hvilken stilling du helst sover i. Hvilke bøker du leser, hvilke TV-programmer du ser på, at du liker å ha tykt lag med syltetøy på brødet – det angår ingen andre hvis du ikke vil at de skal vite det. Selvfølgelig er det uskyldig, men likevel er det privat. Og slik har vel alle noe de helst vil holde privat, uansett grunn.
Den andre grunnen er at du i dag ikke vet hva som vil skje med dataene dine om ti år. Et eksempel på dette er registrering av trosoverbevisning. Ikke bare tidligere, men også i dag blir mennesker diskriminert og forfulgt på grunn av sin tro. Derfor mener myndighetene at det ikke er riktig å lagre all informasjon uten videre. Det må være en god grunn til det.
Hvordan Kepler Night Nurse bidrar til personvern
For det første angår det ikke andre hva en beboer – med eller uten funksjonsnedsettelse – ved en omsorgsinstitusjon gjør i sitt private miljø. Hvis alt går bra, bør rommet på en omsorgsinstitusjon være like privat som hjemme.
Helseinstitusjoner har imidlertid også en omsorgsplikt som krever at pasientens velferd ivaretas. For å oppfylle dette må helsepersonellet gå inn på rommet. Det er ubehagelig med tanke på personvernet. For å virkelig kunne se hvordan det går med pasienten, må lyset egentlig også være på. Det gjør det vanskelig å sove gjennom natten.
Andre får altså innsyn i privatlivet, og er lovpålagt å gjøre det. Den Kepler Night Nurse sørger for at dette ikke lenger er nødvendig. Programvaren overvåker så langt det er mulig det som er viktig. Vi har for eksempel kun lært Kepler Night Nurse å gjenkjenne aktiviteter som «person ut av sengen», «person på badet» eller «person har falt». Andre aktiviteter, noe så uskyldig som å knytte skolisser, eller noe så personlig som å juble av glede, gjenkjenner Kepler Night Nurse ikke. Omsorgsprogramvaren sender kun en melding til pleiepersonalet når det er nødvendig: hvis noen har falt, hvis noen er for lenge på badet, eller hvis noen ikke klarer å komme seg ut av sengen. Kepler Night Nurse fungerer dermed akkurat som en røykvarsler: den utløses bare når noe går galt. Bare i slike tilfeller blir pasientens personvern krenket, og personalet blir informert om hvordan det står til med pasienten. Men det er også akkurat da det er nødvendig.
Det er selvfølgelig slik at Keplers annotatorer og forskere krenker kundenes personvern. Dette skjer imidlertid i så liten grad som mulig, og kun for å gjøre programvaren stadig bedre, slik at kundene vil bli enda mindre forstyrret av et forbedret system. Dermed blir også deres personvern styrket.
Å avtale klart og tydelig hva som skal skje med dataene
Som nevnt er personvern viktig, fordi man aldri kan være sikker på hva som skjer med dataene senere. Kepler løser dette ved å fastsette i en databehandleravtale med en helseinstitusjon hvilke opplysninger som skal lagres og når disse opplysningene skal slettes. I tillegg må klientene gi uttrykkelig samtykke til at opplysningene deres blir brukt og lagret. Klienten vet derfor hvem som får tilgang til dataene (det er Kepler) og hvor lenge (så lenge det er nødvendig for å forbedre deteksjonen ytterligere).
Hvordan er det med datasikkerheten?
Datasikkerhet er viktig. Man må forhindre at uautoriserte personer (som hackere) får tilgang til dataene. Ethvert innbrudd i systemet er ikke bare skadelig for Kepler, men kan også føre til omdømmeskade for helseinstitusjonen. Videre kan det føre til utpressing av helseinstitusjonen eller personen som dataene tilhører.
Dataene som Kepler samler inn fra kunder, lagres alltid i kryptert form. Dataene er kun tilgjengelige via såkalt «tofaktorautentisering». Og det registreres automatisk hvem som leser dataene. Sikkerhetstiltakene som Kepler har iverksatt, er validert gjennom en sertifiseringsprosess. Kepler Vision Technologies har siden april 2020 vært ISO 27001 sertifisert og NEN 7510 -sertifisert. Vurderingen er utført av TÜV Netherlands.
Dine bekymringer er også våre bekymringer. Har du flere spørsmål?