Artificial Intelligence (AI), ofwel kunstmatige intelligentie, wordt steeds meer toegepast in de zorg. AI kan een hoop efficiëntie aan zorgprocessen toevoegen, maar er zijn ook zorgen over onder andere de implementatie, de opschaling en de veiligheid/privacy. Zowel Kamer als minister erkennen deze zorgen, maar oplossingen liggen nog niet voor de hand.
Volgens de definitie van de Europese Commissie wordt onder AI verstaan: ‘systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.’ Dit doen deze systemen op basis van algoritmen die doorlopend met nieuwe data worden gevoed (door mensen). Het blijft dus mensenwerk, maar met AI kunnen processen worden versneld, efficiënter kunnen worden ingericht wat uiteindelijk de kwaliteit, toegankelijkheid en betaalbaarheid van de zorg ten goede komt. Deze pijlers staan in de huidige tijd van stijgende zorgkosten, inhaalzorg, personeelstekorten en een groeiende zorgvraag als gevolg van de dubbele vergrijzing en migratie namelijk behoorlijk onder druk.
AI-toepassingen vinden dan ook steeds meer hun weg in de zorg, maar dat gebeurt nog steeds niet op grote schaal. Met de opschaling, implementatie en vraagstukken omtrent ethiek en privacy loopt men in de praktijk meer dan eens tegen problemen aan, zo stelt de WRR in haar rapport ‘Opgave AI. De nieuwe systeemtechnologie’ (pdf). Onder andere hierover heeft de minister van VWS de Kamer op 9 mei reeds geïnformeerd. Zowel minister als Kamer delen (pdf) hun zorgen over de problemen waar men in de zorg, op zowel Europees als nationaal niveau, op het gebied van AI tegenaan loopt.
Europa en privacy
In Europa staan digitalisering, data en AI hoog op de agenda. Investeringen en gezamenlijke inzet op het creëren van een gunstig klimaat voor AI-ontwikkeling binnen de EU zijn daarbij belangrijk, maar er moet ook worden gewaakt voor de gevaren van AI. Daarom wordt er zorgvuldig nagedacht over wettelijke kaders, de zogenaamde AI Act, om er onder andere voor te zorgen dat AI-systemen die in de EU in de handel worden gebracht en worden gebruikt veilig zijn en voldoen aan de grondrechten en (ethische) waarden van de EU. Ook zullen in deze verordening zaken worden opgenomen omtrent handhaving en gecontroleerde marktwerking. De AI Act is van toepassing op alle AI (niet alleen in de gezondheidszorg), maar voor AI toepassingen in de zorg is het van belang dat de AI Act goed aansluit op de MDR en IVDR. Omtrent de AI Act leven onder Kamerleden vooral zorgen over de borging van privacy en eigenaarschap van data en persoonlijke gegevens. In de verordening zal hiervoor de Europese GDPR (in NL de AVG) worden ingebed.
Implementatie en opschaling
De implementatie en opschaling van innovaties is altijd lastig en dat is niet anders bij AI. Investeringen zijn nodig, maar budget is niet altijd beschikbaar, professionals weten niet altijd hoe om te gaan met AI en het maatschappelijk rendement van AI is niet altijd goed aan te tonen. Om AI meer in de zorg in te bedden worden hierover afspraken gemaakt in onder andere het Integraal Zorgakkoord en het programma Toekomstbestendige Arbeidsmarkt Zorg. Mogelijk kunnen deze afspraken (een deel van) de structurele belemmeringen die de versnelling en opschaling van AI in de weg staan, wegnemen.
Enkele AI-toepassingenAI kent vele toepassingen in de gezondheidszorg. In onder andere de diagnostiek, behandeling en verschillende e-healthmodules kan AI processen efficiënter maken en waarde toevoegen voor zowel de arts als de patiënt. Algoritmen kunnen onder andere beeldmateriaal en labwaarden beoordelen of toepassingen wordt het al ingezet. Het wordt al ingezet in onder andere de diagnostiek, e-health en keuzehulpen:
|
De Nederlandse AI Coalitie (NL AIC) van de werkgroep Gezondheid en Zorg werkt er in ieder geval hard aan om de weg in de Nederlandse zorg vrij te maken voor AI. De werkgroep bestaat uit zowel overheid, universiteiten, kennisinstellingen, zorginstellingen, patiëntvertegenwoordigers, zorgverzekeraars en meer dan 100 bedrijven. De NL AIC wordt grotendeels gefinancierd door het ministerie van EZK, de NWO, de RWO en het Nationaal Groeifonds. Deze coalitie wil in 2025 onder andere 21 AI-innovaties hebben geïmplementeerd en Nederland voorloper maken op AI-gebied.
Ethiek
Een thema dat een steeds belangrijkere rol speelt binnen de AI is de ‘ethiek’. Het creëren van algoritmen die de basis vormen voor AI gebeurt nog altijd door mensen en hier zitten risico’s aan vast. Voorbeelden van discriminatie door algoritmes (denk aan de toeslagenaffaire), ongelukken met zelfrijdende auto’s en het verdwijnen van de menselijke maat door een doorgeschoten ‘algoritmisering’ zijn zaken die niet onbekend zijn. Waar mensen werken zullen altijd fouten gemaakt worden, maar het is voor te stellen dat het zeer ingrijpend is als een AI-toepassing op grote schaal MRI-beelden verkeerd analyseert, met alle gevolgen van dien voor de patiënt.
Daarnaast is het altijd de vraag of algoritmen met de juiste intenties worden opgesteld. Zo kan het bijvoorbeeld voorkomen dat een geautomatiseerde keuzehulp groepen patiënten ‘onterecht’ gaat uitsluiten van behandeling op basis van een discriminatoir kenmerk. Ook is het bijvoorbeeld mogelijk dat een AI-toepassing leefstijlinterventies adviseert die worden aangeboden door partijen die de AI-toepassing hebben gefinancierd (belangenverstrengeling).
Buiten de technische en juridische kanten van de ethiek binnen dit thema speelt ook het feit dat AI en de bijkomende automatisering de menselijke maat moeten blijven respecteren. Willen en durven we straks ons leven wel volledig in handen van een machine te leggen of mogen we ook voor een alternatief blijven kiezen? Zorg is namelijk meer dan data alleen, de menselijke en klinische blik van een arts kan niet volledig worden uitgebannen, ook dat voegt waarde toe voor een patiënt.
Artificial Intelligence (AI), ofwel kunstmatige intelligentie, wordt steeds meer toegepast in de zorg. AI kan een hoop efficiëntie aan zorgprocessen toevoegen, maar er zijn ook zorgen over onder andere de implementatie, de opschaling en de veiligheid/privacy. Zowel Kamer als minister erkennen deze zorgen, maar oplossingen liggen nog niet voor de hand.
Volgens de definitie van de Europese Commissie (pdf) wordt onder AI verstaan: ‘systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken.’ Dit doen deze systemen op basis van algoritmen die doorlopend met nieuwe data worden gevoed (door mensen). Het blijft dus mensenwerk, maar met AI kunnen processen worden versneld, efficiënter kunnen worden ingericht wat uiteindelijk de kwaliteit, toegankelijkheid en betaalbaarheid van de zorg ten goede komt. Deze pijlers staan in de huidige tijd van stijgende zorgkosten, inhaalzorg, personeelstekorten en een groeiende zorgvraag als gevolg van de dubbele vergrijzing en migratie namelijk behoorlijk onder druk.
AI-toepassingen vinden dan ook steeds meer hun weg in de zorg, maar dat gebeurt nog steeds niet op grote schaal. Met de opschaling, implementatie en vraagstukken omtrent ethiek en privacy loopt men in de praktijk meer dan eens tegen problemen aan, zo stelt de WRR in haar rapport ‘Opgave AI. De nieuwe systeemtechnologie’ (pdf). Onder andere hierover heeft de minister van VWS de Kamer op 9 mei reeds geïnformeerd. Zowel minister als Kamer delen (pdf) hun zorgen over de problemen waar men in de zorg, op zowel Europees als nationaal niveau, op het gebied van AI tegenaan loopt.
Europa en privacy
In Europa staan digitalisering, data en AI hoog op de agenda. Investeringen en gezamenlijke inzet op het creëren van een gunstig klimaat voor AI-ontwikkeling binnen de EU zijn daarbij belangrijk, maar er moet ook worden gewaakt voor de gevaren van AI. Daarom wordt er zorgvuldig nagedacht over wettelijke kaders, de zogenaamde AI Act, om er onder andere voor te zorgen dat AI-systemen die in de EU in de handel worden gebracht en worden gebruikt veilig zijn en voldoen aan de grondrechten en (ethische) waarden van de EU. Ook zullen in deze verordening zaken worden opgenomen omtrent handhaving en gecontroleerde marktwerking. De AI Act is van toepassing op alle AI (niet alleen in de gezondheidszorg), maar voor AI toepassingen in de zorg is het van belang dat de AI Act goed aansluit op de MDR en IVDR. Omtrent de AI Act leven onder Kamerleden vooral zorgen over de borging van privacy en eigenaarschap van data en persoonlijke gegevens. In de verordening zal hiervoor de Europese GDPR (in NL de AVG) worden ingebed.
Implementatie en opschaling
De implementatie en opschaling van innovaties is altijd lastig en dat is niet anders bij AI. Investeringen zijn nodig, maar budget is niet altijd beschikbaar, professionals weten niet altijd hoe om te gaan met AI en het maatschappelijk rendement van AI is niet altijd goed aan te tonen. Om AI meer in de zorg in te bedden worden hierover afspraken gemaakt in onder andere het Integraal Zorgakkoord en het programma Toekomstbestendige Arbeidsmarkt Zorg. Mogelijk kunnen deze afspraken (een deel van) de structurele belemmeringen die de versnelling en opschaling van AI in de weg staan, wegnemen.
Enkele AI-toepassingenAI kent vele toepassingen in de gezondheidszorg. In onder andere de diagnostiek, behandeling en verschillende e-healthmodules kan AI processen efficiënter maken en waarde toevoegen voor zowel de arts als de patiënt. Algoritmen kunnen onder andere beeldmateriaal en labwaarden beoordelen of toepassingen wordt het al ingezet. Het wordt al ingezet in onder andere de diagnostiek, e-health en keuzehulpen:
|
De Nederlandse AI Coalitie (NL AIC) van de werkgroep Gezondheid en Zorg werkt er in ieder geval hard aan om de weg in de Nederlandse zorg vrij te maken voor AI. De werkgroep bestaat uit zowel overheid, universiteiten, kennisinstellingen, zorginstellingen, patiëntvertegenwoordigers, zorgverzekeraars en meer dan 100 bedrijven. De NL AIC wordt grotendeels gefinancierd door het ministerie van EZK, de NWO, de RWO en het Nationaal Groeifonds. Deze coalitie wil in 2025 onder andere 21 AI-innovaties hebben geïmplementeerd en Nederland voorloper maken op AI-gebied.
Ethiek
Een thema dat een steeds belangrijkere rol speelt binnen de AI is de ‘ethiek’. Het creëren van algoritmen die de basis vormen voor AI gebeurt nog altijd door mensen en hier zitten risico’s aan vast. Voorbeelden van discriminatie door algoritmes (denk aan de toeslagenaffaire), ongelukken met zelfrijdende auto’s en het verdwijnen van de menselijke maat door een doorgeschoten ‘algoritmisering’ zijn zaken die niet onbekend zijn. Waar mensen werken zullen altijd fouten gemaakt worden, maar het is voor te stellen dat het zeer ingrijpend is als een AI-toepassing op grote schaal MRI-beelden verkeerd analyseert, met alle gevolgen van dien voor de patiënt.
Daarnaast is het altijd de vraag of algoritmen met de juiste intenties worden opgesteld. Zo kan het bijvoorbeeld voorkomen dat een geautomatiseerde keuzehulp groepen patiënten ‘onterecht’ gaat uitsluiten van behandeling op basis van een discriminatoir kenmerk. Ook is het bijvoorbeeld mogelijk dat een AI-toepassing leefstijlinterventies adviseert die worden aangeboden door partijen die de AI-toepassing hebben gefinancierd (belangenverstrengeling).
Buiten de technische en juridische kanten van de ethiek binnen dit thema speelt ook het feit dat AI en de bijkomende automatisering de menselijke maat moeten blijven respecteren. Willen en durven we straks ons leven wel volledig in handen van een machine te leggen of mogen we ook voor een alternatief blijven kiezen? Zorg is namelijk meer dan data alleen, de menselijke en klinische blik van een arts kan niet volledig worden uitgebannen, ook dat voegt waarde toe voor een patiënt.
Bron: Stichting MedTech Nederland, Erasmus Medisch Centrum, Ministerie van VWS, Radboud Universitair Medisch Centrum, Skipr, Universiteit Twente (UT), Zorgvisie, Axon Healthcare, Het Financieele Dagblad (FD), Wetenschappelijke Raad voor het Regeringsbeleid (WRR), Zorgverzekeraars Nederland (ZN)