De integratie van artificiële intelligentie in de geneeskunde roept cruciale vragen op over de plaats van de mens in de arts-patiëntrelatie. Aan de hand van het verhaal van een aangrijpend consult verkent prof. Giovanni Briganti de grenzen en mogelijke gevaren van overmatige automatisering in de gezondheidszorg. De analogie met Jormungandr, de Midgaardslang uit de Noorse mythologie, onderstreept de noodzaak om te behouden wat onvervreemdbaar is in de medische praktijk.

De vrouw met wie ik mijn leven deel is ook arts. Als huisarts op het platteland zag ze onlangs een 80-jarige patiënt die al een paar weken aan het 'rommelen' was. Deze patiënt is in staat om om 3 uur 's nachts op te staan en in zijn tuin te gaan werken omdat hij terugkerende hartkloppingen heeft, die kalmeren als hij bezig is. Omdat hij veel in zijn tuin werkt, voelt hij pijn, waarvoor zijn vorige arts een paar jaar geleden pijnstillers voorschreef. Hij vraagt zich af of het de medicatie is die hem parten speelt.

De klinische blik van de jonge huisarts aan wie hij deze zaken toevertrouwde, werd aangescherpt door deze vragen. Ze vroeg hem: “Denk je soms dat je ouder wordt en dat je op een dag doodgaat? Wat volgde was een in veel opzichten ontroerend en positief gesprek, dat ze meteen aan mij vertelde om mijn mening hierover te krijgen. Ik vertelde haar zo goed als ik kon dat haar houding meer dan juist was geweest en dat op die dag haar diepe menselijkheid de patiënt zelfs meer had gebracht dan haar klinische vaardigheden.

Dit verhaal, hoewel bijzonder, is niet uitzonderlijk: artsen worden tijdens hun consulten vaak met dit soort situaties geconfronteerd. Maar het verhaal vindt weerklank bij mij omdat ik, kort voordat het me werd verteld, de komst op de markt analyseerde van een nieuwe oplossing op basis van artificiële intelligentie, “de eerste AI-dokter”, die de eerste consulten op afstand bijna volledig automatiseert. Deze oplossing, een soort verbeterd breed taalmodel voor de geneeskunde, formuleerde een reeks aanbevelingen voor de patiënt, die het voorlegde aan een arts die op afstand werkte en geen direct contact had met de patiënt. Kortom, de patiënt formuleert zijn klachten, het algoritme analyseert ze, stelt een diagnose en doet aanbevelingen (de nieuwe modellen zijn hier bijzonder effectief in), legt beide voor aan de behandelende arts (die de patiënt nooit ziet) en stuurt ze na validatie opnieuw naar de patiënt, eventueel met voorschriften erbij. Deze nieuwe toepassing, die momenteel gespecialiseerd is in één soort klacht, zorgt voor heel wat opschudding op bepaalde sociale netwerken, waar pseudo-AI-experts in overvloed aanwezig zijn en vaak betaald worden om megalomaan reclame te maken voor nieuwe digitale oplossingen. Bovendien zijn we niet langer verbaasd over het schadelijke effect dat een eenzijdige communicatie van een diagnose van een machine naar een mens zonder een zorgverlener als tussenliggende persoon kan hebben.

Bovendien proberen veel wetenschappers vragen te beantwoorden die geen feitelijke basis hebben. Nog maar een paar uur geleden las ik een artikel waarin “de competentie van brede taalmodellen voor morele vragen” werd beoordeeld, en er zijn talloze artikelen waarin het inlevingsvermogen van artsen wordt vergeleken met dat van brede taalmodellen.
Steeds vaker zeg ik tegen mezelf dat we er goed aan hebben gedaan om AI in de Europese Unie te reguleren. Nu denk ik dat we antwoorden moeten vinden op een nog essentiëlere vraag over nieuwe technologieën.

De vraag naar het onvervreemdbare in technologische transformatie. Om dit te illustreren neem ik als symbool een van mijn favoriete figuren uit de Noorse mythologie, Jormungandr, de Midgaardslang. Zoon van Loki en Angrboda, broer van de wolf Fenrir en de koningin van de doden, Hel. Als kind wordt Jormungandr in opdracht van Odin in de wereldzeeën geworpen, omdat Odin de voorspelling krijgt dat Jormungandr in de toekomst voor problemen zal zorgen. Jormungandr werd zo groot dat hij de hele planeet omhulde en in zijn eigen staart beet.

In de Noorse mythologie staat Jormungandr symbool voor transformatie, omdat hij de agent ervan is: hij is een van de initiatiefnemers van Ragnarok, het einde van de wereld, en terwijl de goden bijna allemaal sterven, wordt de wereld (omhuld door Jormungandr) herboren onder een nieuwe orde. Jormungandr wil de wereld vernietigen zoals die bestaat, en door zijn intrinsieke aard slaagt hij daarin. De goden daarentegen kennen hun einde.

Op dezelfde manier creëert de digitale transformatie in de gezondheidszorg nieuwe realiteiten door oude te 'vernietigen': maar we moeten ons onvermijdelijk afvragen welke realiteiten we onvermijdelijk zullen creëren met technologie.
Jormungandr is een product van dezelfde essentie als de goden, tot op het punt dat hij zelfs Thor evenaart in Ragnarok. Maar hij is geen god. De goden komen aan hun einde in Ragnarok.

Op dezelfde manier zal de machine nooit “mens” zijn, hoewel hij ons nu de indruk kan geven dat hij dingen met ons deelt. Het is niet vervloekt (of gezegend?) door het dubbele bewustzijn van bestaan en op een dag moeten sterven. De machine heeft geen liefde, lijdt niet en voelt geen geluk, verdriet of andere emoties. Ze hoeft haar eigen eindigheid niet onder ogen te zien. Hiervan bewust zijn is vandaag de dag noodzakelijk.

Maar welke taken kunnen dan niet aan de machine worden toevertrouwd, zelfs als ze de 'indruk' wekt te weten hoe ze de taak moet uitvoeren? Laten we ophouden haar de geheimen van de mens toe te vertrouwen, want het is een juweel dat ze niet kan dragen of waarderen. Je moet een mens zijn om te begrijpen wat een mens voelt: zijn voortdurende twijfel, zijn vraagtekens bij de realiteit, de vergankelijkheid van de dingen in het leven. Wanneer een clinicus behandelt, doet hij dat niet alleen als een ontvanger van kennis: hij ervaart dezelfde aard van de dingen als de patiënt voor hem.

Naar mijn mening heeft elke poging om AI te vermenselijken tot nu toe geleid tot een echte en gevaarlijke verwarring in de hoofden van mensen. Ik denk nog elke dag aan onze medeburger die zelfmoord pleegde na een gesprek met een AI.
Degenen die denken dat ze zaken als empathie tijdens een medisch consult, of het aankondigen van een diagnose of het opvolgen van een aanbeveling alleen aan de machine kunnen toevertrouwen, weten niet wat ze doen. De machine kan ongetwijfeld helpen, binnen de grenzen van het artefact dat ze vormt.

We moeten collectief ons verstand gebruiken om onze epistemologische zin te scherpen en als clinici, onderzoekers of belanghebbenden in de gezondheidszorg alleen antwoorden geven op vragen die er een verdienen. En de machine alleen tegenover de klacht van de patiënt tijdens een consult, in de plaats van de arts, hoort daar niet bij. Wel is het er om de arts te helpen met de klacht van de patiënt om te gaan.