Op het gebied van computers is er tegenwoordig veel mogelijk. Ook in de zorg. Vooral van ‘zelflerende machines’ wordt veel verwacht. Oftewel: computerprogramma’s die zelf leren hoe ze zorg steeds beter kunnen verlenen. Maar is dat wel nodig?
Neurochirurg Victor Volovici van het Erasmus MC waarschuwt voor te veel vertrouwen in deze techniek. Hij stelt dat het in medisch-wetenschappelijk vaak onnodig of zelfs onjuist gebruikt wordt.
Hoe zelflerende software ernaast kan zitten
Een opvallend voorbeeld van hoe het mis kan gaan: tijdens de coronapandemie was er een programma dat covid-19 kon voorspellen met een thoraxfoto. Maar wat bleek later? Dat de software een letter die geprint was óp de foto, als patroon had gezien. Die letter (de ‘R’) zat op verschillende scans op een iets andere plek. En dat droeg eraan bij dat de software een patroon meende te herkennen.
Dit soort fouten zijn niet makkelijk te ontdekken. Want het programma gaat zelfstandig op zoek naar patronen, en gebruikt daarvoor hele grote datasets. Er is geen mens die hierover waakt. Deze fout werd dan ook bij toeval ontdekt.
Moeilijk uit te leggen aan patiënten
Zelfs als een zelflerend programma tot de juiste conclusies komt, is dat voor een arts lastig. Want stel: de software ‘ziet’ dat een patiënt iets mankeert. Maar de arts heeft geen idee hoe of waarom die conclusie is bereikt. Hoe ga je dat aan de patiënt uitleggen?
Maar nog gevaarlijker is het natuurlijk als de software iets denkt te zien, maar wat helemaal niet klopt. Dan kan gebruik van zo’n programma zelfs heel gevaarlijk zijn.
Zelflerende computers versus traditionele statistiek
Desondanks worden zelflerende programma’s steeds vaker gebruikt, met name voor medisch-wetenschappelijke artikelen. Deze artikelen worden al snel geaccepteerd omdat het op deze innovatieve methode is gebaseerd. Terwijl dat nooit het geval zou zijn als het artikel gebaseerd was op traditionele statistische methodes. Ook daar schuilt veel gevaar in.
Bovendien: op dit moment voegt kunstmatige intelligentie nog te weinig toe ten opzicht van de traditionele statistiek. Niet als het gaat om een ziekte of behandeluitkomst te voorspellen.
Waarbij statistiek het voordeel heeft dat artsen die modellen begrijpen. Inclusief de beperkingen van die modellen. In tegenstelling tot software, die ondoorgrondelijk is.
Voorlopig adviseren onderzoekers dat de datasets ook geanalyseerd worden met de traditionele statistiek. Zodat duidelijk wordt welk model ‘beter’ is. Als dan blijkt dat de statistische modellen beter zijn, kun je de software links laten liggen.
Nog beter zou het zijn als op voorhand al een keuze gemaakt wordt. Dus vóórdat de data wordt vergaard en verwerkt.
Waar kunnen zelflerende programma’s wél helpen?
Op dit moment ziet Volovici eigenlijk maar één plek waar zelflerende software wél meerwaarde heeft: bij grote radiologische of pathologische datasets. Zo zou software 3D-scans kunnen analyseren op een niveau dat voor het blote mensenoog onzichtbaar is.
Auteur: redactie Zuster Jansen
