Door Karin Jongsma (Universitair docent Universitair Medisch Centrum Utrecht)

Door Fleur Jongepier (Radboud Universiteit Nijmegen)

Sinds kort hebben algoritmes een adviserende rol bij medische beslissingen, zowel bij de VUmc als bij het Radboud UMC Nijmegen, zo berichtte NRC onlangs. 

Het Radboudumc in Nijmegen staat bijvoorbeeld sinds kort een‘verkeerstoren’ waar twaalf computerschermen staan opgesteld die real time scores geven over patiënten:

“Lage scores zijn groen, hogere geel en getallen boven de drie punten knipperen alarmerend in het rood. Deze getallen moeten iets zeggen over de komende uren. Ontwikkelt een patiënt bijvoorbeeld een bloedvergiftiging of luchtweginfectie, zonder het zelf nog te merken?”

Inderdaad, algoritmes kunnen veel meer informatie verwerken dan artsen, wat een groot voordeel is in de toenemende dataverzameling (big data) in de zorg. Maar of algoritmes artsen daadwerkelijk in staat stellen beter te handelen hangt er ten eerste van af hoe goed de algoritmes zelf zijn, dat wil zeggen, of ze relevante data gebruiken, behulpzame analyses uitvoeren en of ze betrouwbaar zijn, maar vooral ook aan hoe de arts met deze analyses en scores omgaat in medische besluitvorming. Medische besluitvorming is immers niet alleen gebaseerd op data en bewijs, maar ook op klinische expertise én op de wens van de patiënt. 

De crux is interpretatie. Artsen moeten ten eerste de beschikbare data interpreteren en begrijpen wat deze betekenen voor een specifieke patiënt. Vervolgens moeten artsen de scores die uit de computers komen rollen interpreteren en herkennen wanneer de score (ir)relevant is of niet klopt.

Die interpretatie is belangrijk bij interactie tussen mens en technologie: bij een verkeers-stoplicht weten de meeste chauffeurs wel dat rood stoppen betekent, en groen rijden, maar een goede chauffeur weet ook dat als er een ambulance met zwaailichten aankomt, er plaatsgemaakt moet worden en dat plaatsmaken belangrijker is dan of het stoplicht op groen of rood staat.

Maar de ‘groene’ en ‘rode’ scores die uit Nijmeegse verkeerstoren komen rollen zijn eindeloos veel moeilijker te interpreteren dan het groen of rood van een stoplicht. 

Een goede arts volgt niet alleen data en bewijs

Met de komst van algoritmes in de zorg ligt bovendien het gevaar van ‘de-skilling’ op de loer.  Doordat artsen steeds meer gaan varen op een algoritme, kan het bijvoorbeeld gebeuren dat ze de (menselijke) gevoeligheid voor het herkennen van afwijkende situaties verliezen of bij een haperend systeem niet goed zelf meer kunnen beslissen.

De-skilling zien we ook in het verkeer: sinds het gebruik van navigatiesystemen is het voor veel weggebruikers moeilijker om zonder zo’n systeem de weg te vinden. Een goede arts volgt niet alleen data en bewijs, maar interpreteert deze data en beoordeelt per patiënt en per context wat wenselijk is. Dat is precies waar de speciale expertise van artsen uit bestaat.

Een goed voorbeeld is het in de zorg bekende ‘niet-pluis-gevoel’. Artsen die niet gerust gesteld zijn door testen of data die geen afwijking laten zien, wijzen op basis van deze klinische expertise patiënten bijvoorbeeld door naar specialisten of houden deze patiënten nog beter in de gaten. Het niet-pluis-gevoel is misschien niet altijd accuraat, maar laat zien dat artsen zich niet in alle gevallen door data en scores moeten laten leiden.

Bovendien mag het perspectief van de patiënt niet over het hoofd worden gezien. Patiëntautonomie is – terecht – een sterk wettelijk verankerd onderdeel van de klinische praktijk en een belangrijk medisch-ethisch principe. Om de analogie met het verkeer nog eens erbij te halen: de bestemming van de reis wordt niet bepaald door het navigatiesysteem, maar door de chauffeur. 

In de zorg zit, naast de arts, ook de patiënt aan het stuur, die ten alle tijden op de rem kan trappen, wat voor richting het algoritme ook aangeeft. Dit betekent dat, ook als er genoeg bewijs is of goede “scores” voor een bepaalde medische behandeling, een patiënt de behandeling altijd kan weigeren. Ook wanneer de arts en algoritme in koor roepen “Opereer!”, volgt daar niet direct uit dat er inderdaad geopereerd moet worden. 

De patiënt kan natuurlijk ook aangeven – en dit lijkt in de toekomst geen onwaarschijnlijk scenario –  juist wél te willen, of zelfs te gaan eisen, dat niet alleen de arts met zijn niet-pluis-gevoel maar ook het algoritme wordt geraadpleegd.

Ons punt is niet dat patiëntautonomie zou moeten betekenen: algoritme-loze medische adviezen of behandelingen. Het gaat erom dat patiënten zelf in dit proces betrokken worden. Immers, wat ‘gezondheid’ betekent kan sterk verschillen van persoon tot persoon, en het is niet ondenkbaar dat algoritmes opereren en adviezen geven op basis van een idee van gezondheid die niet helemaal strookt met de conceptie van gezondheid die de patiënt erop na houdt. 

In de zorg zit, naast de arts, ook de patiënt aan het stuur

Kortom, algoritmes in de zorg hebben veel potentie om bij te dragen aan betere medische besluitvorming, maar we moeten voorkomen dat de meerwaarde van algoritmes ten koste gaat van de expertise van artsen en de autonomie van patiënten.