AI-chatbots in de zorgdriehoek – 3 belangrijke risico’s
Gepubliceerd op: 20-05-2026
Het gebruik van AI-chatbots, zoals ChatGPT of Copilot, wordt snel vanzelfsprekender. Steeds meer cliënten, mantelzorgers en zorgprofessionals gebruiken ze voor praktische informatie. Ook vragen ze chatbots om advies over gezondheid en zorg. Dat kan helpen: antwoorden zijn snel beschikbaar en geven soms meer grip op zorgtaken. In dit praktijkverhaal staan we stil bij de risico’s. Het zijn belangrijke punten om met elkaar te bespreken: wat betekent het gebruik van AI-chatbots voor zorgtaken en voor de samenwerking in de zorg(-driehoek)?
1. Gevolgen interpersoonlijk contact
Een voordeel kan ook zijn keerzijde hebben. AI-chatbots geven cliënten en mantelzorgers snel en laagdrempelig informatie en advies. Maar het is nog onzeker wat dit op de lange termijn betekent voor de kwaliteit van menselijk contact tussen cliënt, mantelzorger en zorgverlener.
Cliënten kunnen door gebruik van chatbots bijvoorbeeld minder contact zoeken met zorgverleners of mantelzorgers. Hierdoor kan sociale verbondenheid en emotionele steun verminderen. Voor kwetsbare groepen kan het effect op hun mentaal welzijn sterker zijn. Zij kunnen zich sneller alleen voelen of het gevoel hebben dat niemand (of alleen een AI-chatbot) hen echt begrijpt.
Voor zorgverleners is het ook nog onduidelijk welke gevolgen dit met zich meebrengt. Wanneer AI-chatbots een deel van het contact overnemen, kunnen belangrijke signalen van emotionele of mentale problemen van cliënten zoals stress of somberheid minder zichtbaar worden. Dit maakt het voor zorgverleners lastiger om deze cliënten te helpen en hun werk goed te doen.
2. Digitale kloof
Daarnaast kan het gebruik van AI-chatbots bestaande ongelijkheden in de zorg en maatschappij groter maken. Of zelfs nieuwe ongelijkheden veroorzaken. Niet iedereen heeft namelijk de digitale vaardigheden of middelen om AI-chatbots verantwoord te gebruiken. Denk aan zorgvuldig omgaan met privacygevoelige informatie en kritisch kijken naar de betrouwbaarheid van AI-output. Cliënten en mantelzorgers die hier wel handig in zijn, kunnen sneller en efficiënter ondersteuning ontvangen, terwijl anderen mogelijk achterblijven. Hoe deze zogenoemde ‘digitale kloof’ zich ontwikkelt, is nog onduidelijk.
Hoe groot wordt de digitale kloof en wie belandt aan welke kant? Dit hangt sterk af van de manier waarop chatbots worden ontworpen, en van de begeleiding bij het gebruik in de praktijk. Veel chatbots zijn zo ontworpen dat ze zeer overtuigend over komen, alsof er geen onzekerheid zit in hun antwoorden. Ze presenteren informatie met een bijna alwetende toon, zonder zichtbaar te maken welke onzekerheden, aannames of beperkingen eraan ten grondslag liggen.
Dat maakt het voor gebruikers moeilijk om in te schatten of de gegeven informatie betrouwbaar is of hoe je deze moet interpreteren. Dat geldt zeker voor mensen met minder digitale vaardigheden. Hierdoor ontstaat het risico dat sommige cliënten blind vertrouwen op foutieve of onvolledige antwoorden, terwijl anderen juist te terughoudend zijn omdat ze het systeem niet begrijpen. Uiteindelijk versterkt dit de ongelijkheid in toegang tot passende zorg en ondersteuning.
3. Privacy en dataveiligheid
Ook op het gebied van privacy en dataveiligheid is nog veel onzeker. Gebruikers delen vaak persoonlijke informatie met AI-chatbots. In de context van zorg en ondersteuning kan dit zelfs zeer gevoelige informatie zijn over iemands gezondheid of leefomstandigheden. Toch is het voor gebruikers en organisaties niet altijd duidelijk hoe deze gegevens precies worden opgeslagen, waar ze worden verwerkt en of ze (deels) worden gebruikt voor verdere training van de onderliggende modellen. Hoe duidelijk aanbieders hierover zijn, verschilt veel. Vaak is de informatie niet genoeg om de risico’s goed te kunnen inschatten.
Ook is er onduidelijkheid over het delen van gegevens met externe partijen. Dit kan leiden tot ongewenste toegang tot deze informatie door anderen. Deze onzekerheden roepen begrijpelijke vragen op: blijven gegevens wel echt vertrouwelijk? Wie kan er bij de informatie? En bestaat het risico dat persoonlijke data op termijn kan worden misbruikt, bijvoorbeeld voor commerciële doeleinden, verzekeringsrisico’s of stigmatiserende profilering?
Onzekerheid over de effecten
Je kunt de ontwikkeling van AI-chatbots vergelijken met de opkomst van sociale media. Ondertussen weten we dat dat hier ook negatieve effecten aan zitten. AI-chatbots zijn een relatief nieuw type technologie die nu nog beperkt een rol speelt in ons dagelijks leven en werk. Bij nieuwe technologieën is het vaak lastig om de risico’s en gevolgen op de lange termijn goed in te schatten.
Sommige potentiële negatieve effecten van AI-chatbots, zoals een verminderd kritisch denkvermogen bij gebruikers, zullen pas zichtbaar worden na langdurig gebruik. En dan is het lastig om het ontwerp, de implementatie en het dagelijks gebruik van AI-chatbots aan te passen. Juist in een vroeg stadium is bijsturen nog wél mogelijk, maar dan is vaak minder duidelijk waarop men moet bijsturen en waarom. Dit staat bekend als het Collingridge-dilemma.
Je kunt het vergelijken met de opkomst van sociale media. Inmiddels weten we dat sociale media ook negatieve effecten hebben, zoals dat misinformatie zich snel verspreidt en dat het slecht kan zijn voor het zelfbeeld en de mentale gezondheid van gebruikers. Maar toen deze technologie nog relatief nieuw was en beperkt was ingebed in onze maatschappij, waren deze risico’s nauwelijks zichtbaar. Alleen een kleine groep onderzoekers, journalisten en maatschappelijke organisaties waarschuwden ervoor. Nu ook de negatieve gevolgen een stuk zichtbaarder en grijpbaarder zijn, blijkt het veel lastiger om het ontwerp van sociale media aan te passen en hun rol in de maatschappij bij te sturen.
Kritisch in gesprek
Het is van belang om nu al actief bij te sturen op verantwoorde inzet van AI-chatbots en andere vormen van AI. Door vroegtijdiger en een brede maatschappelijke discussie te voeren over hoe we deze technologie willen inzetten en waar we van willen wegblijven, kunnen we de kansen beter benutten en risico’s zoveel mogelijk beperken. Dit vraagt namelijk om bewuste, gewogen keuzes in het technologie ontwerp én dagelijks gebruik. Het is lastig of misschien wel onmogelijk om de risico's van AI volledig wegnemen.
Verantwoorde inzet van AI gaat echter niet om het volledig wegnemen van risico's, maar om bepaalde risico’s expliciet te accepteren wanneer de verwachte voordelen zwaarder wegen, en deze keuzes regelmatig heroverwegen op basis van nieuwe inzichten en ervaringen. Hierin ligt een rol voor onderzoek en beleid, maar óók voor de dagelijkse zorgpraktijk en bij cliënten en mantelzorgers.
Vanuit Vilans willen we mensen daarom aanmoedigen om hierover met elkaar in gesprek gaan; om samen kritisch na te denken over wat we wél willen bereiken met het gebruik van AI-chatbots, welke effecten we ondertussen willen vermijden, en hoe we dit goed kunnen organiseren.
