Kunstmatige intelligentie (AI) heeft een enorm potentieel om de vooruitgang op het gebied van gezondheid en geneeskunde te versnellen, maar het brengt ook risico’s met zich mee als het niet zorgvuldig wordt toegepast, zoals blijkt uit de tegenstrijdige resultaten van recente onderzoeken naar de behandeling van kanker.
Aan de ene kant heeft het in het Verenigd Koninkrijk gevestigde biotechbedrijf Etcembly onlangs aangekondigd dat het in staat was om generatieve AI te gebruiken om een nieuwe immuuntherapie te ontwerpen die zich richt op moeilijk te behandelen kankers. Dit is de eerste keer dat een kandidaat-immunotherapie werd ontwikkeld met behulp van AI, en Etcembly – dat deel uitmaakt van het Inception-programma van Nvidia – was in staat om het te creëren in slechts 11 maanden, of twee keer zo snel als conventionele methoden.
Het nieuwe geneesmiddel van Etcembly, ETC-101 genaamd, is een bispecifieke T-cel engager, wat betekent dat het zich richt op een eiwit dat in veel kankers voorkomt en niet in gezond weefsel. Het heeft ook een picomolaire affiniteit en is dus tot een miljoen keer krachtiger dan natuurlijke T-celreceptoren.
Het bedrijf zegt dat het ook een robuuste pijplijn van andere immuuntherapieën voor kanker en auto-immuunziekten heeft, ontworpen door zijn AI-engine, EMLy genaamd.
Afbeelding: Etcembly
“Etcembly is ontstaan uit onze wens om twee concepten die voorlopen op de wetenschappelijke mainstream-TCR’s en generatieve AI samen te brengen om de volgende generatie immuuntherapieën te ontwerpen”, zegt CEO Michelle Teng. “Ik ben enthousiast om met deze middelen verder te gaan, zodat we de toekomst van TCR-therapieën werkelijkheid kunnen laten worden en transformatieve behandelingen naar patiënten kunnen brengen.
Eerder toonden onderzoekers aan dat AI kan helpen bij het voorspellen van de resultaten van experimentele kankerbehandelingen, het verbeteren van kankerscreeningtechnieken, het ontdekken van nieuwe senolytische geneesmiddelen, het detecteren van tekenen van de ziekte van Parkinson en het begrijpen van eiwitinteracties om nieuwe verbindingen te ontwerpen.
De gevaren van het inzetten van een niet-gevalideerde AI
Aan de andere kant blijven er aanzienlijke risico’s bestaan. Sommige individuen beginnen AI-chatbots te gebruiken in plaats van artsen en therapeuten, waarbij één persoon zelfs zelfmoord pleegde nadat hij het schadelijke advies van een chatbot had opgevolgd.
Wetenschappers sluiten zich ook aan bij het idee dat mensen niet blindelings AI-adviezen moeten volgen. Een nieuwe studie gepubliceerd door JAMA Oncology suggereert dat ChatGPT kritieke beperkingen heeft bij het genereren van behandelplannen voor kanker, wat de risico’s onderstreept als AI-aanbevelingen klinisch worden ingezet zonder uitgebreide validatie.
Onderzoekers van het Brigham and Women’s Hospital in Boston ontdekten dat de behandeladviezen van ChatGPT voor verschillende kankergevallen veel feitelijke fouten en tegenstrijdige informatie bevatten.
Van de 104 zoekopdrachten bevatte ongeveer een derde van de antwoorden van ChatGPT onjuiste gegevens, aldus het onderzoek dat is gepubliceerd in JAMA Oncology.
“Alle outputs met een aanbeveling bevatten ten minste 1 NCCN-conforme behandeling, maar 35 van de 102 (34,3%) van deze outputs raadden ook 1 of meer niet-conforme behandelingen aan,” bleek uit het onderzoek.
Bron: JAMA Oncology
Hoewel 98% van de plannen enkele nauwkeurige richtlijnen bevatte, mengden ze bijna allemaal goede en verkeerde inhoud.
“We waren verbaasd over de mate waarin onjuiste informatie werd vermengd met nauwkeurige feiten, waardoor fouten moeilijk te identificeren waren, zelfs voor specialisten”, aldus co-auteur Dr. Danielle Bitterman.
Uit het onderzoek bleek met name dat 12,5% van de behandeladviezen van ChatGPT volledig gehallucineerd of verzonnen waren door de bot zonder feitelijke juistheid. De AI had vooral moeite met het genereren van betrouwbare gelokaliseerde therapieën voor gevorderde kankers en het juiste gebruik van immunotherapiemedicijnen.
OpenAI waarschuwt zelf dat ChatGPT niet bedoeld is om medisch advies of diagnostische diensten te leveren voor ernstige gezondheidsproblemen. Toch verhoogt de neiging van het model om zelfverzekerd te reageren met tegenstrijdige of valse informatie de risico’s als het klinisch wordt ingezet zonder rigoureuze validatie.
Het eten van mierengif is natuurlijk een duidelijke nee-nee, zelfs als de AI van je supermarkt je dat aanraadt, maar als het aankomt op ingewikkelde academische termen en delicaat advies, moet je ook met een mens praten.
Met zorgvuldige validatie zouden AI-tools snel nieuwe levensreddende behandelingen kunnen ontsluiten en gevaarlijke misstappen kunnen voorkomen. Maar voorlopig doen patiënten er verstandig aan om AI-gegenereerd medisch advies met een gezonde dosis scepsis te bekijken.
