Editie 1: Corrette Ploem en Roosmarie Jessen aan het woord

Binnen Xendens, onderdeel van de afdeling Ethiek, Recht en Humaniora van het Amsterdam UMC, is er veel expertise en ervaring op het gebied, ook wel sectie, van gezondheidsrecht, ethiek van de zorg, participatie & diversiteit en ethiek support.

Voor ieder van deze secties geldt de volgende vraag:

"Wat is de maatschappelijke impact en waarde van de onderzoeken die worden uitgevoerd binnen deze vier secties?"

We trappen de allereerste editie af met een tweegesprek tussen bijzonder hoogleraar Corrette Ploem en PhD-kandidaat Roosmarie Jessen, beiden onderdeel van de sectie gezondheidsrecht. Deze sectie doet onderzoek naar zorgverlener-patiëntrelatie, vraagstukken rondom begin en eind van het leven en de digitalisering in de zorg.

Focussen op onderzoek met maatschappelijke waarde

Sinds een jaar is Roosmarie onderdeel van de sectie Gezondheidsrecht van de afdeling Ethiek, Recht en Humaniora van het Amsterdam UMC. Als PhD-kandidaat. Haar wens om iedere dag iets nieuws te leren leidde haar terug naar de academie. De plek die ze een kleine twee jaar ervoor met een master titel Gezondheidsrecht op zak gedag had gezegd. “AI (artificial intelligence, red.) in de zorg is het onderwerp waar ik onderzoek naar doe. Een pittig onderwerp door de combinatie van recht, technologie, zorg en ethiek. Dat vereist behoorlijk wat inhoudelijke kennis. Bovendien gebeurt er veel op dit vlak. Veranderingen gaan snel.”

De promovenda voert haar onderzoek uit onder begeleiding van Corrette Ploem. De gezondheidsjuriste, onderzoeker en docent aan Amsterdam UMC én leider van de sectie Gezondheidsrecht is sinds twee jaar bijzonder hoogleraar vanwege KNMG inzake recht, AI, technologie en geneeskunde. “Een van de zaken die de leerstoel in het kader van technologieontwikkeling moet opleveren, is een helder kader waarbinnen artsen in 2040 ook goede artsen kunnen zijn. Op het onderzoeksterrein van AI ben ik dus niet alleen Roos’ promotor, we werken ook samen in projecten.”

Waarde voor de praktijk

Een goede verstaander hoort tussen de regels door dat valoriseren daarbij vooropstaat. “Wij doen onderzoek dat maatschappelijke waarde heeft”, stelt Corrette. Haar sectie wil betekenis hebben voor de zorgcontext, het medisch-wetenschappelijk onderzoek, de technologieontwikkeling en/of het beleid dat daarop betrekking heeft. En dat is niet sinds gisteren. Gezondheidsrecht en valorisatie zijn al sinds jaar en dag met elkaar verbonden. Bij rechtswetenschappelijk onderzoek, zoals wetsevaluaties, uit dat zich in publicaties van bevindingen, conclusies en aanbevelingen over hoe een bepaalde juridische regeling in de praktijk functioneert. “Daaruit kan vervolgens een project voortvloeien dat bijvoorbeeld resulteert in het opstellen van richtlijnen die onderzoekers, artsen en arts-onderzoekers helpen op een verantwoorde manier met de juridische kaders om te gaan. Het doen van onderzoek is het essentiële verbindingsstukje tussen theorie en praktijk. En daarom per definitie van waarde voor praktijk of beleid.”

Hyperactueel

Dat geldt niet anders voor het onderzoek naar AI in de zorg dat Roosmarie vorig jaar is gestart. Een hyperactueel onderwerp. Digitale technologie in de zorg wordt steeds belangrijker. Denk aan het voorspellen en personaliseren van zorg door de inzet van AI, gezondheidsapps, telezorg… Ze kunnen de zorg betaalbaarder, efficiënter en patiëntgerichter maken. Maar om die mogelijkheden te benutten moet er worden nagedacht over normatieve vragen. Want wat doet zorgtechnologie eigenlijk met de autonomie van de dokter? Is onze wetgeving wel voldoende up-to-date om de inzet van complexe kunstmatige intelligentie te reguleren? En: Hoe zijn vooroordelen ingebouwd in technologie? “Het hele doel van mijn promotieonderzoek is toewerken naar een product waar het veld iets aan heeft.” Om dat te bereiken duikt Roosmarie niet alleen de juridische documenten in. Zij richt zich ook op empirisch onderzoek waarbij zij zorgverleners in de praktijk interviewt. “Artsen, arts-onderzoekers en andere zorgverleners hebben allerlei vragen, ideeën of zorgen over het gebruik van AI. Die nemen we mee in het opstellen van richtlijnen die hen in staat stellen om op een verantwoorde manier met technologie om te gaan.”

Containerbegrip

In hoeverre zijn dat soort richtlijnen ook toepasbaar in andere contexten dan de cure, bijvoorbeeld de care? Dat ligt aan de technologie zelf, springt Corrette bij. “AI is een containerbegrip. Dat kan op zoveel verschillende manieren worden ingezet: in communicatie met collega’s, de administratie…” Als je op dat vlak uitvindt wat veilig is en wat de risico’s zijn, dan zou dat volgens haar bruikbaar in andere sectoren kunnen zijn. “Maar als je het hebt over besluitvorming ondersteunende AI die wordt ingezet bij specialistische oncologiezorg in het ziekenhuis, dan ligt het compliceerder.”

Trustworthy

Het onderzoek van Roosmarie maakt deel uit van een breder Europees onderzoeksprogramma waarbij ‘trustworthy AI’ een van de speerpunten is. Trustworthy betekent in deze context dat de ontwikkeling en het gebruik van artificial intelligence niet alleen medisch verantwoord moet zijn. Het moet ook in overeenstemming zijn met de maatschappelijke, ethische en juridische context. Oftewel, het overstijgt het expertisegebied van juristen. Dus werken Roosmarie en Corrette in dit onderzoeksproject samen met medici, ethici, statistici en AI-ontwikkelaars. Daarbij heeft iedere beroepsgroep zijn eigen werkpakket en wordt er in gezamenlijkheid toegewerkt naar een eindproduct waar de praktijk mee uit de voeten kan.

Recht betekent niet zwart-wit

Dat is precies wat het doen van onderzoek binnen een academisch ziekenhuis karakteriseert, licht Corrette toe. “Soms wordt gedacht dat het recht zwart-wit is. Iets mag wel of niet, iemand is aansprakelijk of niet. Maar het recht is complex en gaat over redelijkheid. Binnen ons onderzoek is een belangrijke vraag of de praktijk met het recht uit de voeten kan. Zijn er knelpunten? Welke vragen leven op de werkvloer?” Dat klinkt logisch, maar zijn er ook risico’s aan verbonden? Dat je als onderzoeker te veel je oor laat hangen naar de praktijk en het belang van de beschermende functie van het recht uit het oog verliest? “Ik heb in de afgelopen dertig jaar gemerkt dat er soms een bepaald belang is dat in de praktijk gevoeld wordt en sterk naar voren wordt gebracht. Het is de rol van de jurist – en het mooie van het vak – om ook de andere, meer principiële kant van de discussie te belichten.” Dat laatste hoeft volgens haar overigens zeker niet te resulteren in een strikte uitleg van wetgeving, zoals weleens gedacht wordt. Het kan ook andersom zijn. Dat de wet in de praktijk onnodig streng wordt uitgelegd. “Het mooie van de rol als gezondheidsjurist in het academisch centrum of ziekenhuis is dat je de vraag kunt opwerpen of het redelijk is om de wet letterlijk uit te leggen of toch meer te kijken naar de geest van de wet en welk doel de wetgever met die wet voor ogen had.”

Begin van de discussie

Het is een belangrijk aspect van valoriseren: in de praktijk met elkaar, jurist en zorgverlener, onderzoeken hoe er het beste met de juridische kaders kan worden omgegaan. “Ik merk nu al dat de praktijk het liefst een ja-nee-antwoord wil op juridische vragen”, voegt Roosmarie toe. “Hoewel we werken naar praktische ondersteuning, is het niet altijd mogelijk om een goed-foutantwoord te geven.” Recht is een contextafhankelijk vak – net als ethiek – voegt Corrette toe. “Het is daarom belangrijk dat wet- en regelgeving ruimte laat voor die context. En dat duidelijk is wat juridische normen in de praktijk betekenen.” Bij bijvoorbeeld het opstellen van goede richtlijnen voor verantwoorde AI levert dat weleens lastige discussies op. “Een belangrijke voorwaarde voor verantwoorde AI-ontwikkeling is dat AI geen groepen mag benadelen of discrimineren. Maar wat betekent dat precies? Moet discriminatie helemaal uitgesloten zijn? Of is er een bepaald niveau van bias (vooringenomenheid, red.) van een AI-systeem acceptabel?” Je kunt dus wel zeggen dat een AI-systeem niet mag discrimineren, maar dat is pas het begin van de discussie. Het laat treffend zien hoe verweven gezondheidsrecht is met de praktijk.