Dokter chatbot

'Dag ChatGPT. Ik heb last van een loopneus en keelpijn. Wat is mijn diagnose?' 'Het spijt me, maar ik ben geen arts en kan geen medische diagnoses stellen. Ik raad je aan contact op te nemen met een medische professional, zoals een huisarts, om je symptomen te bespreken en een juiste diagnose te krijgen.'

De praatgrage, artificieel intelligente bot ChatGPT beantwoordt veel vragen, maar als het om medisch advies gaat is hij geprogrammeerd om terughoudend te zijn. Dit is maar goed ook, want een diagnose die niet gesteld is door een arts brengt veel gevaren met zich mee. Toch zijn onderzoekers druk bezig met het bouwen van zulke toepassingen in de medische wereld. Vervangt een computersysteem binnenkort onze dokters? En is dat wel veilig, medisch advies van een artificiële intelligentie?

Leergierige systemen

Artificieel intelligente systemen duiken de laatste jaren op in verschillende hoeken van het medische landschap. In tegenstelling tot klassieke computerprogramma’s, zoals bijvoorbeeld het tekstverwerkingsprogramma Word, programmeren we een artificiële intelligentie (AI) niet door lijn-per-lijn te zeggen wat ze moet doen. In plaats daarvan leert de AI zelf hoe ze een complex probleem kan oplossen. Tijdens een trainingsfase ziet de AI een groot aantal voorbeelden waarin ze patronen moet leren herkennen om zo goed mogelijk een taak op te lossen. Zo bestaan er AI systemen die tijdens training duizenden hersenscans voorgeschoteld kregen van patiënten waarvan bekend is dat ze een tumor hebben. Wanneer deze AI na training een nieuwe hersenscan ziet, kan ze voorspellen of die patiënt een tumor heeft. Hiervoor gebruikt ze patronen die ze geleerd heeft uit alle voorgaande voorbeelden.

Een ander soort AI is getraind om nieuwe medische kennis uit patiëntendossiers en doktersnotities te halen. Deze AI kan onbekende bijwerkingen van medicijnen ontdekken, of de effectiviteit van nieuwe behandelingen achterhalen. Verder bestaan er ook systemen die het zogenaamde “klinisch redeneerproces” van een arts trachten te automatiseren. Dit is het proces dat elke arts bewust of onbewust uitvoert wanneer een patiënt op consultatie komt met een waslijst aan symptomen, voorgeschiedenis en risicofactoren. De mix van al deze informatie, samen met medische voorkennis en ervaring, brengt de arts tot een diagnose en voorgestelde behandeling. In de AI-versie van dit proces ontvangt een ChatGPT-achtig systeem dezelfde patiënteninformatie en stelt het een medisch advies op via gelijkaardige voorbeelden die het zag tijdens training.

Tandbleekmiddel tegen kanker

Waarom zouden we deze AI systemen gebruiken, en zijn ze wel betrouwbaar? Voorstanders zullen benadrukken dat artsen mensen zijn, en mensen staan erom bekend dat ze fouten maken. Door ze te vervangen door een AI waarvan de 'hersen'-capaciteit zoveel malen groter is, elimineren we deze menselijke verstrooidheid.

Daar staat natuurlijk tegenover dat we ons leven in handen te leggen van een ding waarvan we eigenlijk niet begrijpen hoe het zijn beslissingen maakt. De AI kan patronen oppikken uit de data waarvan wij als mens weten dat ze niet kloppen. Stel dat een AI uit een grote hoeveelheid patiëntendossiers leert dat gele tanden vaak voorkomen bij rokers, die ook vaker longkanker hebben. Als we de AI vragen om een maatregel die kanker kan voorkomen, zal die misschien voorstellen om je tanden te laten bleken. Een arts weet dat gele tanden de kanker niet veroorzaken, maar net zoals kanker een gevolg zijn van roken. Gele tanden laten bleken zal je kans op kanker dus niet verkleinen, stoppen met roken wel.

Daarom is het geen goed idee om AI systemen volledig vrij te laten in de medische wereld. Om hun betrouwbaarheid te garanderen moet de mens een handje helpen.

Samen sterk

Er zijn verschillende manieren om mens en machine dichter bij elkaar te brengen. Een daarvan is interactie. Het AI systeem mag dan bijvoorbeeld niet enkel met ja of nee aangeven of het een tumor detecteert in een hersenscan, maar moet meer informatie geven. Zo kan het de regio omcirkelen waarin het de tumor gevonden heeft, of laat het in percentages weten hoe zeker het is van zijn voorspelling. De eindverantwoordelijkheid ligt dan bij de arts die het systeem gebruikt. Die bepaalt aan de hand van deze extra informatie wat de voorspelling waard is.

Alleen een arts heeft voldoende achtergrondkennis om de voorspelling van een medische AI in context te plaatsen. Het is niet de bedoeling deze systemen zomaar open te stellen naar het brede publiek. Zo is een medische chatbot waar mensen online advies van kunnen krijgen een slecht idee. Wat wel kan is een chatbot voor artsen. De arts kan dan de symptomen van de patiënt ingeven, en de chatbot doet suggesties over mogelijke diagnoses. Via de chatfunctie kan de arts zijn klinisch redeneerproces uitschrijven en toetsen aan de chatbot, zonder dit volledig uit handen te geven.

De dokter van de toekomst

In plaats van de arts pas te betrekken na de bouw van het systeem, kan cruciale kennis ook ingebakken worden in de AI tijdens de ontwikkeling. We komen terug op het voorbeeld van de relatie tussen roken, longkanker en gele tanden. Om zeker te zijn dat de AI geen valse oorzaak-gevolg relaties leert, kunnen we restricties opleggen die ze verplicht moet volgen. Een van deze regels is bijvoorbeeld “gele tanden veroorzaken geen kanker”. De AI krijgt dan opnieuw de taak om automatisch patronen te leren uit de data, maar dan wel binnen deze beperkingen. Zo bouw je een systeem dat het beste van beide werelden bevat.

Worden onze dokters binnenkort vervangen door artificiële intelligentie? Zo’n vaart zal het niet lopen, maar het is wél mogelijk dat artsen in de toekomst meer ondersteuning zullen krijgen van AI. Als je binnen 10 jaar bij de dokter komt zou het goed kunnen dat die samenwerkt met AI in verschillende vormen, gaande van beeldherkenning tot chatbots. De menselijke input en ervaring van de arts blijft echter cruciaal om de veiligheid van de patiënt te garanderen.