De mogelijkheden van kunstmatige intelligentie (AI) in de gezondheidszorg zijn veelbelovend: automatische diagnostiek, vroegsignalering van uitbraken, medische beslisbomen, en een enorme kostenbesparing door ontlasting van zorgtaken, waardoor er meer zorgcapaciteit ontstaat. Toch ziet de gemiddelde arts hier nog weinig van terug in de praktijk. AI-toepassingen hebben echter een dermate vlucht genomen dat de gezondheidszorg er niet meer omheen kan. Neem een chatbot als ChatGPT: een gratis en veelgebruikte ontwikkeling die geautomatiseerd (wetenschappelijke) teksten kan schrijven ¹.  

Sinds de introductie van het elektronisch patiëntendossier wordt er in gezondheidsinstellingen een grote hoeveelheid data geregistreerd. Elke melding, bezoek en onderzoek wordt vastgelegd. Deze data resulteren in een enorme database waarin veel relevante informatie voor de gezondheidszorg te vinden is. Een groot deel hiervan is in potentie ook waardevol voor medische besluitvorming, onderzoek, evaluatie van kwaliteit van zorg en zorgverantwoording². Tegenwoordig zijn er verschillende technieken waarmee data bewerkt en geanalyseerd kan worden, zelfs als deze initieel ongestructureerd zijn vastgelegd. AI wordt hierbij vaak genoemd. Dit artikel bespreekt de kansen en risico’s van AI en maakt een koppeling naar de dagelijkse praktijk in de gezondheidszorg. Het sluit af met een reactie van chatbot ChatGPT. 

Wat is AI?  

Kunstmatige intelligentie is volop in ontwikkeling en daardoor moeilijk exact te definiëren³. AI werd voor het eerst beschreven in 1955 in het onderzoeksvoorstel voor het ‘Darthmouth Summer Research Project on Artificial Intelligence’ om ‘een manier te vinden waardoor machines taal gebruiken, abstracties en concepten vormen, problemen oplossen die nu alleen mensen kunnen oplossen, en zichzelf verbeteren’⁴. Tegenwoordig wordt de term AI voor verschillende systemen gebruikt, van zelfrijdende auto’s en videogames tot medische diagnostiek. Hoewel er veel definities zijn, mist een uniforme definitie^5,6. De definities zijn tijdgebonden en afhankelijk van vakgebied⁷. In 2021 beschreef de WHO World Health Organization (World Health Organization) AI als volgt: ‘Kunstmatige Intelligentie (AI) verwijst naar de vaardigheid van technisch gecodeerde algoritmes om te leren van data, zodat ze geautomatiseerde taken kunnen uitvoeren zonder dat elke stap in het proces expliciet door een mens geprogrammeerd hoeft te zijn’⁸. 

AI-toepassingen in de gezondheidszorg  

Ook in de gezondheidszorg zijn er veel domeinen waarin AI kan worden toegepast. Een voorbeeld hiervan in de medische diagnostiek is de bevordering van een snelle COVID-19-diagnose op basis van een algoritme dat gebruikmaakt van CT-scanbevindingen, klinische symptomen en labuitslagen⁹. Een voorbeeld van AI voor behandelingsdoeleinden blijkt uit een studie bij ratten, waarbij op basis van onder andere blaasdrukken voorspeld werd wanneer er geürineerd wordt¹⁰. Een soortgelijk algoritme kan in de toekomst mogelijk een plaats krijgen in de behandeling van patiënten met blaasproblemen. In het kader van publieke gezondheid is AI al gebruikt om uitbraken beter te voorspellen. Zo werden zikavirusmeldingen en ruimtelijke gegevens gecombineerd om te voorspellen waar het zikavirus voor uitbraken kan zorgen¹¹.  

Hiërarchie van behoeften voor AI  

‘Garbage in is garbage out’ is een populair gezegde onder datawetenschappers. De kwaliteit van een data-analyse of AI-toepassing is afhankelijk van de kwaliteit van de gebruikte data. De ‘datasciencehiërarchie van behoeften’¹² is als een piramide van Maslow voor datawetenschap en maakt inzichtelijk wat nodig is voor betrouwbare AI. De basis ligt bij a) de datacollectie. Daarna volgt b) data-infrastructuur, c) datatransformaties en cleaning, d) data-analyse (o.a. KPI’s, dashboarding, multivariabele analyse), e) predictie-analyse en simpelere machinelearningalgoritmes (testen van AI) en tot slot f) AI. Om tot een goede AI-toepassing te komen, moeten de stappen a tot en met f zorgvuldig doorlopen worden. Hiervoor zijn IT-experts, data-experts en inhoudelijke experts nodig.  

Risico’s van AI in de gezondheidszorg  

Geen 1-op-1 afspiegeling van de werkelijkheid  

Data, en daarmee ook data-analyses en AI, kunnen heel veel, maar zijn geen kopie van de werkelijkheid. Er kunnen altijd onverwachte factoren meespelen, vooral als gedrag medebepalend is. Hier houdt AI geen rekening mee. De werkelijkheid is daarom ook zelden dicht te benaderen via modellering. Een individuele patiënt met bijzondere pathologie kan buiten de kaders van het algoritme vallen, of een bijzondere zorgwens hebben. Medisch specialisten kunnen in een dergelijk geval afwijken van de voorstellen van een AI-toepassing en een gewogen afweging maken in het belang van het individu. Daarom blijft toetsen van de realiteit door medisch specialisten (menselijke supervisie) noodzakelijk.  

Datakwaliteit limiteert de kwaliteit van AI  

Zoals in het vorige hoofdstuk al benoemd is, hebben AI-toepassingen hoogwaardige data nodig om hoogwaardige uitkomsten te geven. AI is uitermate geschikt om geautomatiseerd slimme, nieuwe inzichten te genereren op basis van bestaande data. De input (data) is hierbij echter limiterend, hoe goed het AI-algoritme ook is. Het is belangrijk om te beseffen dat het AI-algoritme waarschijnlijk dezelfde limitatie heeft als de data die gebruikt wordt voor het algoritme.  

Efficiëntiemodel vs. complexe dynamiek publieke gezondheidszorg  

Het debat rondom AI in de publieke gezondheidszorg heeft zich vooral gefocust op technologie en wetgeving, terwijl het sociale en ethische debat maar langzaam op gang komt¹³. AI-modellen zijn erg geschikt om processen zo efficiënt mogelijk in te richten, of om een optimaal meetbaar resultaat te bereiken. Het zo efficiënt mogelijk inzetten van middelen is belangrijk voor de kwaliteit van de publieke gezondheid. Het is echter van nog groter belang dat de complexe dynamiek van de publieke gezondheid in ogenschouw wordt genomen, waarbij verschillende waardes en belangen (o.a. ethische, medische, economische en politieke) continu in conflict zijn met elkaar. De onderliggende waardes, en de daaruit voortvloeiende acties, worden bij complexere problematiek bij voorkeur via een moreel beraad van de betrokken professionals bepaald. Op deze manier kunnen verschillende doelen, zoals verkleining van gezondheidsverschillen, bevorderen autonome keuze of juist zoveel mogelijk gezondheidswinst voor zoveel mogelijk mensen (of patiënten), een plek krijgen in de besluitvorming. Een AI-algoritme heeft van zichzelf helaas geen moreel kompas, zoals ook al pijnlijk duidelijk werd in de toeslagenaffaire, waarbij bijvoorbeeld mensen met een dubbele nationaliteit een grotere kans hadden om door het systeem (onterecht) aangewezen te worden als fraudeur¹⁴.  

Discriminatie in (publieke) gezondheidszorg  

Los van andere ethische onderwerpen, is het belangrijk om rekening te houden met verschillende vormen van discriminatie door AI. Deze kunnen met name optreden bij toepassingen in de publieke (gezondheidszorg)sector. Ten eerste is er een risico op directe discriminatie. AI-algoritmes kunnen keuzes voor (restrictieve) gezondheidsinterventies maken op basis van persoonskenmerken als etniciteit, gender of naam. Deze persoonskenmerken kunnen van invloed zijn op thema’s in de gezondheid, maar het risico bestaat dat een onvolledige dataset geen rekening houdt met onderliggende determinanten van gezondheid, zoals sociaaleconomische status, risicovol gedrag, etc. Ten tweede kan AI een gezondheidsinterventie modelleren die voor de meerderheid positief uitpakt, maar voor een minderheid juist nadelig is. Dit wordt ook wel indirecte discriminatie genoemd.  

Stappen naar een toekomst met AI in de publieke gezondheidszorg  

Naast nadelen en valkuilen heeft AI vooral veel potentie. Processen die nu nog mensenwerk vereisen, kunnen geautomatiseerd plaatsvinden. Een voorwaarde is wel dat er met betrouwbare data gewerkt wordt, op basis van een solide informatie-infrastructuur.  

Toegang tot data-inzichten  

Een stevige informatievoorziening is stap één, maar ontbreekt vaak voor specialisten in de publieke gezondheidszorg. Data van de populatie komt vaak van veel verschillende bronnen. Er zijn in mijn ervaring als dataconsultant bij ziekenhuizen en GGD Gemeentelijke Gezondheidsdienst (Gemeentelijke Gezondheidsdienst)’en te weinig profielartsen of artsen M+G en epidemiologen met gemakkelijke en snelle toegang tot gegevens over kwaliteit van zorglevering en hun patiëntenpopulatie. Gegevens over bijvoorbeeld gezondheidsgedrag, motivaties voor vaccinaties, comorbiditeiten, polyfarmacie of rookgedrag. Terwijl inzicht hierin essentieel is om te komen tot goede toepassingen van deze data voor AI. Het is daarom belangrijk om toe te werken naar een goede data-infrastructuur.  

Samenwerking met andere disciplines  

Bigdatapartijen als Google, Amazon, Meta, Apple en Microsoft staan te springen om hun data en AI te gebruiken voor medische toepassingen. Daarnaast zijn er datawetenschappers en bedrijven die data kunnen structureren en hun weg weten met kunstmatige intelligentie. Maar vaak ontberen zij het medisch-specialistische perspectief, terwijl de meeste medisch-specialisten weinig bedreven zijn in informatietechnologie. Samenwerking tussen verschillende disciplines helpt om relevante AI in de zorg op te zetten.  

Medisch-specialistische visie en ethisch debat  

Los van de eerder beschreven risico’s van discriminatie door AI, zijn er meer overwegingen die gemaakt moeten worden. Veel overwegingen over de richting van kunstmatige intelligentie kunnen direct invloed hebben op de rol en positie van de medisch specialist:  

• Welke normen en waarden streven we na in de zorg?  

• Hoe zorgen we ervoor dat AI gezondheidsverschillen verkleint?  

• Welke stem telt zwaarder: die van de specialist of die van AI?  

• Wie (arts of algoritme) bepaalt of, en op basis waarvan, een behandeling uitgevoerd gaat worden?  

Dit zijn maar een paar van de talrijke vragen die nog onbeantwoord zijn. Het is daarom belangrijk dat het medisch-specialistische debat rondom AI op gang komt en er een duidelijke visie gevormd wordt. Dit zorgt ervoor dat AI in dienst komt te staan van de medisch specialisten en de medisch specialisten niet in dienst komen te staan van AI.  

Conclusie  

AI kan een belangrijke rol spelen in de zorg, zowel voor diagnostiek, als voor behandeling en surveillance. De technische mogelijkheden zijn groot en relevante toepassingen voor de publieke gezondheidszorg zijn er genoeg te bedenken. De vraag is nu: wanneer stappen artsen M+G in om hun onmisbare expertise te leveren? Waar blijft een duidelijk gedragen visie van artsen M+G op AI, waarin ethische, praktische en andere medisch-specialistische aspecten een plek krijgen? Als we geloven dat AI de publieke gezondheidszorg gaat veranderen, zullen er snel artsen M+G moeten opstaan om richting te geven aan deze transitie.  

Lees na de bronnen de reactie van ChatGPT op dit artikel.