Aankondiging resultaten onafhankelijke AI BIAS audit door Code4Thought

  • Algorithm Bias Testing bedrijf Code4Thought bevestigd dat de computer vision oplossing – de Kepler Night Nurse – vrij is van gender bias.

  • De Kepler Night Nurse wordt gebruikt als valdetectie en valpreventie software om de gezondheid van mensen te bewaken in de ouderenzorg.

 

Kepler Vision Technologies kondigt de resultaten aan van de onafhankelijke AI bias audit door Code4Thought. Het Kepler Night Nurse algoritme heeft een “unbiased approach to gender when looking after the wellbeing of patients in a professional care environment.” De AI advies service bevestigt het resultaat van de audit.

Kepler Night Nurse

De Kepler Night Nurse is gebaseerd op door machine learning aangedreven technologie voor de herkenning van menselijke activiteit. Het waarschuwt het personeel onmiddellijk wanneer het merkt dat patiënten in zorginstellingen zijn gevallen of fysiek ongemak ervaren. Dat betekent dat ze de aandacht krijgen die ze nodig hebben op het moment dat ze het nodig hebben. Het gebruik van de Kepler Night Nurse vermindert de noodzaak om voortdurend patiënten te controleren en stopt de tijdverspilling die gepaard gaat met valse alarmen die andere bewakingsoplossingen bieden.

Bias detection test

Als ‘s werelds eerste op computervisie gebaseerde valdetector die als medisch hulpmiddel is geregistreerd, vereist het deep learning-algoritme van Kepler Night Nurse nauwkeurig onderzoek om ervoor te zorgen dat het eerlijke en nauwkeurige resultaten oplevert voor elke patiënt die het bewaakt. De Bias Testing-analyse van Code4Thought is gebaseerd op de ISO-29119-11-norm. Deze ISO richtlijnen zijn ontworpen om op black-box AI gebaseerde systemen te testen om nauwkeurigheid en precisie te garanderen. De uitkomst van de analyse bewees dat het algoritme van de Kepler Night Nurse in staat is om correcte analyse te doen, ongeacht het geslacht van een patiënt. Het leverde ook input over hoe dit te behouden door diverse afbeeldingen op te nemen in de trainingsdatasets van Kepler Night Nurse, die zullen beschermen tegen vooringenomenheid en ongelijkheden in de gezondheidszorg in toch al kwetsbare demografie naarmate het gebruik van Kepler Night Nurse zich uitbreidt.

Kepler Vision Technologies

Dr. Harro Stokman, CEO van Kepler Vision Technologies, zei: «Naarmate de ernst van beslissingen die door AI-systemen worden genomen toeneemt, neemt ook onze behoefte toe om ervoor te zorgen dat ze eerlijk en transparant werken. Nergens is dit meer nodig dan op het gebied van medische hulpmiddelen, waar de beoordelingen van AI-aangedreven tools letterlijk een kwestie van leven en dood kunnen zijn. Het voorstel van de Europese Commissie voor de verordening inzake AI-systemen maakt duidelijk dat bedrijven meer kunnen doen met behulp van Deep Learning-algoritmen met een hoge complexiteit en ondoorzichtigheid om vertrouwen op te bouwen in AI-systemen. Door samen te werken met Code4Thought bevestigt Kepler Vision Technologies zijn toewijding aan het verbeteren van het leven van alle patiënten waarop de technologie wordt toegepast, ongeacht individuele verschillen.”

Code4Thought

Yiannis Kannellopoulos, oprichter van Code4Thought zei: “Slecht getrainde algoritmen in de medische ruimte resulteren in onnauwkeurigheden en vooroordelen die potentieel verwoestende gevolgen kunnen hebben. Om deze reden – ervoor zorgen dat de algoritmen bestand zijn tegen het hoogste niveau van onafhankelijk onderzoek, moet de prioriteit zijn van elk bedrijf dat AI-systemen gebruikt. Het is zeer de moeite waard om samen te werken met teams en organisaties zoals Kepler Vision Technologies die waarde hechten aan het bouwen van AI-technologie die kan worden vertrouwd door bedrijven en individuen. Het is bemoedigend om te ontdekken dat er achter een hoogwaardig AI-systeem een team van hoge kwaliteit ingenieurs staat dat zich toelegt op professionaliteit op het gebied van datawetenschap.”

This following article was published the 2nd of November on  Startupper.gr  and on Emerce