Home / Actueel / Nieuws

Thijmen van Hoorn, Dirkzwager Legal & Tax, over Artificial intelligence in de zorg

Geplaatst op 22-04-2024  -  Categorie: Kennisdelen

Thijmen van Hoorn in een interview van het NGFG over AI

Stap binnen in de fascinerende wereld van Artificial Intelligence (AI) in de zorgsector, waar innovatie en ethiek hand in hand gaan. Thijmen van Hoorn, advocaat bij Dirkzwager legal & tax in Arnhem, werpt een licht op de opkomst van AI-technologieën en de impact ervan op de gezondheidszorg. 

Wie ben jij en wat is jouw functie?

Ik ben Thijmen van Hoorn, advocaat bij Dirkzwager legal & tax in Arnhem. Ik houd mij bezig met IT- en privacyrecht, focus me in mijn praktijk veel op nieuwe technologie en data. Dat doe ik samen met ons IT-team en ons privacyteam. We werken veel voor het bedrijfsleven en voor overheden, als kantoor staan we ook veel ziekenhuizen en andere zorginstellingen bij.

Kun je wat meer vertellen over AI in de zorg?

De gezondheidszorg is een heel interessante sector als het gaat om technologie zoals Artificial Intelligence. Veel bedrijven kunnen AI gebruiken om hun processen te stroomlijnen, bijvoorbeeld bij het opstellen van facturen of het bijhouden van personeelsdossiers. Huisartsen en ziekenhuizen kunnen daar ook handig gebruik van maken in hun bedrijfsvoering. Wat de zorg echter zo speciaal maakt, is dat het niet alleen om de bedrijfsvoering gaat, maar ook om de zorgverlening. En daar kan ook AI worden ingezet. Je ziet al dat ziekenhuizen en verpleeghuizen daar volop gebruik van maken. Zo zijn er al AI-modellen ontwikkeld die het verschil tussen gezond en ziek weefsel kunnen herkennen, dus diagnoses kunnen stellen en zijn er instellingen waar robotjes als een soort “maatje” worden ingezet bij de begeleiding van patiënten met een beperking. En er zijn al veel goede programma’s die de arts kunnen helpen bij het schrijven van een gespreksverslag.

Welke rol speelt Privacy daarin?

In de zorg speelt dit altijd een heel belangrijke rol. Je hebt namelijk bijna altijd te maken met bijzondere persoonsgegevens, want het gaat over de gezondheidsgegevens van mensen. En daar moet je natuurlijk extra zorgvuldig mee omgaan. Daar komt bij zorgverleners nog bovenop dat zij een beroepsgeheim hebben.

Wat zijn volgens jou de grootste voordelen van de ontwikkelingen van AI in de zorg?

De zorgsector heeft veel te maken met dezelfde uitdagingen als andere sectoren: krapte op de arbeidsmarkt, beperkte middelen en stijgende kosten. Iedereen weet ook wel hoe groot deze uitdagingen zijn, helemaal wanneer we het hebben over de zorg. Dat is waar AI denk ik enorm kan helpen. Ten eerste kan AI worden ingezet om de paarse krokodil in de zorg te temmen. Een zorgverlener wil gewoon zijn werk kunnen doen, niet te veel tijd kwijt zijn aan verslagen typen en schermen met administratie. Als je AI op een verantwoordelijke manier kan inzetten om hierbij te helpen, heeft de zorgverlener meer tijd om zorg te verlenen, zo maak je het vak van zorgverlener ook leuker. Dat zorgt voor meer handen aan het bed, en voor meer tijd om handen aan het bed te hebben.

Tegelijkertijd is het eerlijke verhaal ook dat de tekorten in de zorg de komende jaren niet zullen worden opgelost, ook niet als je administratie geautomatiseerd is. Daar kan AI dan ook bij helpen. Als we in de toekomst moeten kiezen tussen het niet verrichten van bevolkingsonderzoek omdat er geen mensen voor zijn, óf het laten verrichten van bevolkingsonderzoek door AI, dan lijkt de keuze me snel gemaakt. Dit alles natuurlijk wel met de kanttekening dat het AI-systeem op een verantwoorde en juiste manier wordt ingezet en dat goed wordt nagedacht over de risico's. 

Welke uitdagingen brengt de integratie van AI met zich mee als het gaat om gegevensbescherming?

Ik zie vaak dat mensen de ontwikkeling van AI ingewikkeld vinden. Dat snap ik helemaal, het gaat om erg nieuwe technologie en het is vaak lastig om goede informatie te vinden over bepaalde toepassingen. En uiteindelijk ka je ook experts op IT-gebied of juridisch gebied nodig hebben om de implementatie in goede banen te leiden. 

Een belangrijke uitdaging is om het hoofd koel te houden. Een deel van de integratie van AI en de rol van de privacy daarbij kun je namelijk als FG al wel beoordelen. De centrale uitgangspunten van de AVG blijven namelijk hetzelfde: persoonsgegevens moeten rechtmatig worden verwerkt, persoonsgegevens moeten juist zijn, persoonsgegevens moeten passend beveiligd worden, et cetera. En hoewel je voor verdere details zeker naar experts zal moeten kijken, staat een privacy officer, advocaat of FG niet met lege handen. Bekijk bij AI-systemen altijd of je alvast de basis van de gegevensbescherming kan (laten) controleren. 

Uiteraard moet je hierbij rekening houden met de specifieke details van het AI-systeem. Hoe groter de toepassing en de impact, hoe groter het risico’s worden bij het gebruik van het AI-systeem. Bij een computer die zelfstandig een diagnose stelt, heb je (veel) meer hulp nodig dan bij een kleine hulptool.

Wat zijn de belangrijkste regels waar zorginstellingen rekening mee moeten houden bij het implementeren van AI?

Dat zijn voor een groot deel de regels waar zorginstellingen altijd al rekening mee moeten houden bij gegevensverwerking: is er een grondslag, is er sprake van doelbinding, kunnen betrokkenen hun rechten uitoefenen? Bij AI zijn er denk ik 2 zaken die extra spelen. De eerste is het recht om niet te worden onderworpen aan geautomatiseerde verwerking uit artikel 22 AVG. Een zorginstelling moet er altijd rekening mee houden dat het AI-systeem in beginsel niet de enige doorslaggevende stem mag hebben. Ten tweede moet de zorginstelling rekening houden met de DPIA. In de Richtsnoeren van de EDPB en op de DPIA-lijst van de Autoriteit Persoonsgegevens staan innovatieve technologie, gezondheidsgegevens en kwetsbare betrokkenen bijvoorbeeld genoemd als indicatie dat een DPIA verricht moet worden. Dat zal bij AI in de zorg dus al zeer snel spelen. Je moet je dus voorbereiden op het verrichten van een DPIA.

Overigens betekent dat natuurlijk niet dat je klaar bent zolang je maar een DPIA hebt gedaan en de rechten uit de AVG hebt geborgd. Maar dat is voor de FG in ieder geval al een belangrijke eerste stap. Uiteindelijk moet je wel ook naar de technische details van het systeem gaan kijken, zoals de foutgevoeligheid en andere dreigingen. Maar niet ieder AI-systeem is hetzelfde. Bij ingrijpende systemen zul je verder moeten gaan dan bij kleinere toepassingen, zoals bij het schrijven van een rapport.

Hoe is dat voor de patiënt?

Dat is natuurlijk degene die bij dit alles centraal moet staan. Of je nu AI gebruikt voor de payroll of voor het stellen van diagnoses, het belang van de betrokkene moet altijd worden bekeken. Dat betekent dat je kritisch moet zijn op de output van de AI, en moet controleren of alles wel klopt. Daarnaast moet je de persoonsgegevens van de patiënt veilig opslaan, en geen schaduwadministratie creëren. Het is goed om daarbij in het achterhoofd te houden dat de zorgverlener uiteindelijk eindverantwoordelijk is. Die moet hierop toezien. Tegelijkertijd kan ik me ook voorstellen dat patiënten het gebruik van AI spannend kunnen vinden. Het is daarom de taak van de zorgverlener om hier goed mee om te gaan. Licht patiënten goed voor en verricht bijvoorbeeld eerst eens een pilot voordat je de AI-systemen breed uitrolt. En voor de FG: breng in kaart waarvoor toestemming van de patiënt nodig is, en adviseer daar kritisch over.

Wat zijn veel voorkomende misvattingen over de ontwikkelingen van AI in de zorg?

Ik denk dat dat schippert tussen twee extremen. Aan de ene kant is er een kamp van mensen die denken dat het allemaal wel overwaait, en aan de andere kant zijn er mensen die stellen dat alles overhoop gehaald moet worden. Dat zijn beide misvattingen die schadelijk zijn voor het goed inpassen van AI in het zorgstelsel. Je moet altijd kritisch naar nieuwe technologie kijken, maar tegelijkertijd is het ook een gemiste kans om niet gebruik te maken van alles wat AI kan bieden. Vergelijk het met een elektronisch patiëntendossier: als zorginstelling kan je tegenwoordig eigenlijk niet meer op papier werken, en dat is misschien maar goed ook. Maar dat hoeft niet te betekenen dat je volledige manier van zorg verlenen op de schop hoeft.

Als je het hoofd koel houdt bij AI in de zorg, kun je een vergelijkbare ontwikkeling doormaken: wel meegaan met de tijd, maar geen paniekvoetbal spelen. Schakel experts in waar nodig, betrek de juiste collega’s en ben je bewust van je eigen kennis en kunde.

Hoe kunnen zorginstellingen zich voorbereiden op de ontwikkelingen van AI?

De wereld van AI kan ingewikkeld en intimiderend lijken, maar hierbij geldt: samen sta je sterker. Ik wil zorginstellingen aanmoedigen om van elkaar te leren. Vraag aan elkaar welke technologie je gebruikt en hoe dat bevalt. En bespreek met elkaar welke wensen je hebt en kansen je ziet. Daarmee verbreed je je horizon. Tegelijkertijd is het ook goed om je te laten adviseren over de juridische mogelijkheden. Juridisch gezien mag er veel, zolang het maar op de goede manier gebeurt. Laat je daarom dus bijvoorbeeld voorlichten over de AVG en de aankomende AI Act.

Wat wil je FG’s nog meegeven over de ontwikkelingen van AI?

Een open, maar kritische blik is de allerbeste. Omarm de kansen die AI biedt, maar vergeet daarbij niet dat de privacyregels nog steeds onverkort gelden. En hoewel AI ingewikkeld en spannend kan aanvoelen, moet je niet onderschatten dat een privacyprofessional alsnog vaak in de basis wel kan beoordelen of de AI goed ingezet kan worden. Je hoeft de precieze technische werking van de AI niet volledig te doorgronden om goed te kunnen adviseren over zaken als grondslagen, doelbinding en opslagbeperking. Je kan misschien wel meer dan je denkt. En als je toch ergens tegenaan loopt, zijn er altijd experts om je verder te helpen.

Wil jij meer weten over Thijmen van Hoorn of contact met hem opnemen?

Kijk dan op het LinkedIn profiel van Thijmen of neem contact met het op via Dirkzwager legal & tax.