White Paper Privacy,databescherming en de zorg
Privacy?
Een vaak gestelde vraag over Kepler Night Nurse: hoe zit het precies met privacy? Omdat de allernieuwste computer vision technologie wordt toegepast, begrijpen we de vraag.
Hoe zit het met de privacy van een cliënt? En wat gebeurt er met de gegevens?
Kunstmatige intelligentie, waar computer vision een onderdeel van is, wordt heel erg belangrijk. Tech bedrijven zoals Google en Facebook investeren erin, conglomeraten zoals het Japanse Softbank, en ook bekende namen als Albert Heijn en TomTom. En ze investeren er grote bedragen in. Ook overheden investeren: De Franse, Duitse en Engelse ieder meer dan 1 miljard en de EU blijft niet achter.
Er wordt in de media van alles geschreven over kunstmatige intelligentie – of AI op zijn Engels. Duizenden Amazon medewerkers zouden bijvoorbeeld stiekem meeluisteren met opnames door slimme thuisapparaten die dingen voor je kunnen bestellen als je ertegen praat, zie.
Kepler gebruikt ook kunstmatige intelligentie. We gebruiken slimme software om over mensen te waken in hun privé-omgeving die niet goed meer voor zichzelf kunnen zorgen. Het gaat om ouderen en gehandicapten. Gaat dat wel goed? We vinden het logisch om daar wat vragen over te beantwoorden. In deze White paper leggen we uit hoe dataverzameling door Kepler werkt en hoe wij met privacy en gegevensbescherming omgaan.
Wat doet Kepler’s software precies?
Onze software heet “de Kepler Night Nurse”. De Kepler Night Nurse werkt door gebruik te maken van computer vision. Het Kepler team heeft veel ervaring met deze software. Als spin-off van de Universiteit van Amsterdam bestuderen we deze technologie al meer dan twintig jaar. Het doel van de computer vision van Kepler is om vast te stellen of iemand hulp nodig heeft, bijvoorbeeld als iemand niet uit bed kan komen. We helpen daarmee zorgverleners nog beter voor mensen te zorgen.
Tot de introductie van de Kepler Night Nurse zorgden zorgverleners voor iemand door er regelmatig te gaan kijken. Het voorschrift is om dat twee keer per nacht te doen. Elke cliënt, elke nacht en elke kamer. Dat is een redelijke eis omdat je niet weet hoe het met de mensen die je verzorgt gaat, maar het is intensief en vergt veel inzet. En ook vindt niet iedereen het even leuk als een zorgverlener elke nacht twee keer op bezoek komt. Het is net alsof je als kind weer opnieuw wordt bewaakt. Kepler wil voor zowel de cliënt als de zorgverlener wat doen: ze ontwikkelt software die met behulp van computer vision zo goed mogelijk probeert vast te stellen of iemand zorg nodig heeft, bijvoorbeeld als die is gevallen. De software waarschuwt in dat geval de zorgverlener. We streven ernaar dat de software van Kepler dat alleen doorgeeft als er iets aan de hand is. Zolang de techniek niet perfect is, kan dat wel eens voor niks zijn, maar met een gegronde reden vindt niemand het erg dat de zorgverlener even om de hoek komt kijken: de zorgverlener niet en de cliënt ook niet.
Waarom verzamelt Kepler data?
We hebben gemerkt dat computer vision in de praktijk eigenlijk nooit meteen werkt. Ondanks dat we hieraan hard gewerkt hebben met een ervaren team van wetenschappers, is het nodig dat we de techniek per locatie verbeteren. Daarvoor moet goed getest worden. Dat is terecht. Het gaat om mensen en de zorg voor mensen, dus we proberen wat goed is beter te doen.
Het is mogelijk om bestaande algoritmes honderd keer beter te laten werken. Honderd keer minder een vals alarm is honderd keer minder ’s nachts lopen en ’s nacht minder een kamer openmaken. Verder kunnen we door betere algoritmes de kans dat er een echt ongeval wordt gemist nog verder verminderen.
Om dit voor elkaar te krijgen en te testen moet je aan de software voorbeelden laten zien. In die voorbeelden wijst een mens dan handmatig aan waar in het beeld iets gebeurt. Dit wordt ‘annoteren’ genoemd. Het gaat dan om foto’s of korte videofragmenten waarin iets relevants gebeurt, zoals vallen of niet uit bed kunnen komen. Hoe dit werkt wordt uitgelegd in een video op de demo pagina. Na het verzamelen van de geannoteerde voorbeelden leert de computer vision, kan de beelden beter analyseren, en wordt hierdoor een betere zorgbewaker. Dan kan Kepler Night Nurse de zorgverlener beter adviseren: er is iets aan de hand. Dit is de reden waarom Kepler data verzamelt.
De praktijk?
Computer vision leert langzaam. Voor Kepler Night Nurse moeten duizenden uren video’s worden bekeken om te leren. Dat is logisch want het overgrote deel van wat er ’s nachts gebeurt, is gelukkig niet interessant: iedereen slaapt vredig, draait zich af en toe eens om, en zelfs degene die een woeste droom hebben moeten niet tot een alarm leiden. Hieronder geven we wat voorbeelden van moeilijke situaties die we tegen komen:
De Kepler Night Nurse software heeft soms moeite om houdingen goed te herkennen. Dit gebeurt bijvoorbeeld als een persoon vanuit zittende positie opstaat. De persoon zit dan niet maar staat ook niet. De software kan dit niet goed classificeren. Door de software bij te trainen leert de software deze manier van opstaan.
Als er in een kamer een Mariabeeld staat werd het beeld als persoon gezien. Begrijpelijk want een Mariabeeld lijkt op een staand mensje. Kepler Night Nurse moet dan een paar voorbeelden hebben gezien om het onderscheid te kunnen maken. Of het kwam voor dat, als aan een kapstok een hoed boven een jas hangt en daaronder laarzen staan, dit werd gezien als een persoon. Ook begrijpelijk want zelfs een mens zou ervan kunnen schrikken. De software moet dat ook eerst leren.
Mensen die in een video voorkomen worden niet altijd meteen door de software als zodanig herkend. Dit komt bijvoorbeeld voor als iemand in bed ligt en de dekens ver over zich heen trekt. Net als mensen weet Kepler Night Nurse het dan ook niet altijd zeker en moet daar ervaring mee opdoen.
Met de huidige stand van de techniek moet je kunstmatige intelligentie steeds weer alles opnieuw leren in het geval dat zich een nieuwe situatie voordoet die niet wordt herkend. In de praktijk betekent dit dat wanneer Kepler Night Nurse opnieuw getraind wordt, dat gebeurt met de oorspronkelijke beelden. Daaraan worden de nieuwe beelden toegevoegd die tot foute analyses hebben geleid. Om de software te kunnen verbeteren en fouten te kunnen voorkomen, is het belangrijk dat Kepler een klein deel (in de praktijk minder dan 0.01%) van de beelden bewaart.
Wie bekijken de beelden?
De beelden worden bij Kepler bekeken door annotators. Dit zijn mensen die vier uur per dag bij Kepler op kantoor werken. Langer gaat niet want het werk is geestdodend. Eén van onze annotators is bijvoorbeeld beeldend kunstenaar voor wie annotatiewerk een bijbaan is. Een andere annotator schrijft een boek en zocht bijverdiensten waarbij hij vooral niet hoeft na te denken. De annotators hebben een Nederlandse dienstbetrekking bij Kepler met daarin geheimhoudingsverplichting. Het werk wordt dus niet uitbesteed aan een lagelonenland. De beelden blijven bij Kepler.
Wat gebeurt er precies met de beelden?
Een video wordt bekeken en bij een interessante situatie stilgezet om een hokje te tekenen op het beeldscherm rond een persoon. Aan dat hokje wordt een naam gegeven zoals “persoon zit”. Dan wordt naar het volgende beeld op de video gegaan waar iets interessants gebeurt. En zo verder totdat alle beelden waarop er iets te leren valt zijn geannoteerd. Het annoteren van een stilgezet beeld duurt een paar seconden. Soms checkt een andere annotator het werk van zijn collega maar daarna wordt een video eigenlijk nooit meer bekeken.
Annotators werken op beveiligde laptops die niet zijn verbonden met het publieke Internet en die alléén geschikt zijn om annotatiewerk mee te doen. De beelden of video’s worden niet op deze laptops bewaard en de USB-uitgangen op deze laptops werken niet. Om te voorkomen dat er iets aan de instellingen op de laptops wordt veranderd, gaan de laptops na iedere werkdag de kluis in.
En hoelang wordt de data bewaard?
De beelden die door Kepler worden verzameld blijven net zolang bewaard als is vastgelegd in de verwerkersovereenkomst met de zorginstelling. Meestal houdt dat in dat de beelden worden gewist na beëindiging van de Kepler Night Nurse software licentieovereenkomst.
Hoe zit het ondertussen met privacy?
Wij vinden privacy belangrijk om de volgende redenen:
De eerste reden is dat het anderen, die je niet kent, niets aangaat wat je doet. Een vaak gehoord argument is dat privacy niet belangrijk zou zijn zolang je geen illegale dingen doet. Hierom zouden spionage-eenheden van de overheid de sleutels moeten krijgen om versleutelde berichten in te kunnen zien. Maar zo is het natuurlijk niet. Als je naar het toilet gaat doe je de deur dicht. Je doet niets illegaals, maar evengoed betekent het niet dat je huisgenoten, de instelling waar je bent, of overheidsdiensten je dan zouden mogen bekijken. Dat is het toilet. Datzelfde geldt voor wat je schrijft in je dagboek, of in welke houding je het liefste slaapt. Welke boeken je leest, welke tv je kijkt, dat je de jam graag dik op de boterham doet, het gaat niemand iets aan als je dat niet wilt. Natuurlijk, het is onschuldig maar toch is het privé. En zo heeft iedereen wel iets dat hij of zij graag privé houdt om welke reden dan ook.
De tweede reden is dat je vandaag niet weet wat er over tien jaar met jouw data gebeurt. Een voorbeeld hiervan is de registratie van geloofsovertuiging. Niet alleen in het verleden maar ook nu worden mensen gediscrimineerd en vervolgd om basis van hun geloof. Daarom vindt de overheid het niet goed om zo maar alle informatie op te slaan. Er moet een goede reden voor zijn.
Hoe Kepler Night Nurse bijdraagt aan privacy
Op de eerste plaats gaat het anderen niets aan wat een bewoner – al dan niet met een beperking – van een zorginstelling zoal doet in zijn of haar privé-omgeving. Als het goed gaat moet de kamer in een zorginstelling even privé zijn als thuis.
Zorginstellingen hebben echter ook een zorgplicht die vereist dat het welzijn van een cliënt is gewaarborgd. Hiertoe moet een zorgverlener de kamer betreden. Dat is vervelend voor de privacy. Om echt goed te kunnen zien hoe het met de cliënt gaat moet eigenlijk ook het licht aan. Dat is lastig om door te kunnen slapen.
Anderen kijken dus mee in de privé-omgeving en moeten dat wettelijk doen. De Kepler Night Nurse zorgt ervoor dat dit niet langer nodig is. De software waakt zo veel mogelijk over wat belangrijk is. Zo hebben we Kepler Night Nurse alleen activiteiten geleerd als “persoon uit bed”, “persoon in badkamer” of “persoon gevallen”. Andere activiteiten, iets onschuldigs als het vastknopen van schoenveters, of iets persoonlijks als juichen van blijdschap herkent Kepler Night Nurse niet. De zorgsoftware geeft alleen een melding aan het verzorgend personeel wanneer dat nodig is: als iemand is gevallen, als iemand te lang in de badkamer is, of als iemand niet uit bed kan komen. Kepler Night Nurse werkt daarmee net als een rookalarm: het gaat alleen af als het misgaat. Alleen in dat geval wordt inbreuk gemaakt op de privacy van een cliënt, en wordt aan het personeel gemeld hoe het met een cliënt is. Maar dat is dan ook precies wanneer het nodig is.
Het is natuurlijk wel zo dat door de Kepler’s annotators en onderzoekers inbreuk wordt gemaakt op de privacy van cliënten. Dit gebeurt echter zo min mogelijk en alleen om de software steeds beter te maken zodat de cliënten met een verbeterd systeem nog minder lastig zullen worden gevallen. Hiermee wordt hun privacy ook weer verbeterd.
Duidelijk afspreken wat er met de data gebeurt
Zoals gezegd, privacy is belangrijk omdat je nooit zeker weet wat er later met de data gebeurt. Kepler lost dit op door in een verwerkersovereenkomst met een zorginstelling vast te leggen welke gegevens worden bewaard en wanneer deze gegevens worden gewist. Daarnaast moeten cliënten expliciet toestemming geven dat hun gegevens worden gebruikt en opgeslagen. De cliënt weet daarom wie toegang krijgt tot de data (dat is Kepler) en voor hoelang (zolang het nodig is om de detectie verder te verbeteren).
Hoe zit het met de beveiliging van data?
De beveiliging van data is belangrijk. Er moet voorkomen worden dat onbevoegden (zoals hackers) toegang krijgen tot de data. Iedere inbreuk op het systeem is niet alleen nadelig voor Kepler maar kan ook leiden tot imagoschade van de zorginstelling. Bovendien kan het leiden tot afpersing van de zorginstelling of de persoon van wie de data is.
De data die door Kepler van klanten worden verzameld worden altijd versleuteld opgeslagen. De data zijn alleen toegankelijk via zogeheten “two factor authenticatie”. En er wordt automatisch geregistreerd wie de data leest. De beveiligingsmaatregelen die Kepler heeft getroffen zijn gevalideerd via een certificeringsprocedure. Kepler Vision Technologies is sinds april 2020 ISO 27001 gecertificeerd en NEN 7510 gecertificeerd. De toetsing is gedaan door TÜV Netherlands.
Uw zorgen zijn onze zorg, heeft u nog vragen?