11 oktober 2017

Artificiële Intelligentie laat zich niet reguleren


Alles in de medische wereld is gereguleerd. Van een latex handschoen tot een pacemaker, een kompres tot een kunstheup, elk apparaat, hulpmiddel, implantaat of medicijn moet aan strenge criteria voldoen. Daar zorgen in de VS de FDA en in Europa de EMA voor. Zij reguleren niet het oordeel van artsen, maar de veiligheid en effectiviteit van medische hulpmiddelen en geneesmiddelen die artsen voorschrijven.


Alles gereguleerd, behalve medische data. In ons land is het zelfs zo dat zowat elke grote universiteit zijn eigen dataopslagsysteem probeert aan de ziekenhuisman te brengen. Kwestie van de perifere ziekenhuizen aan zich te binden. En laten data nu net data de basis zijn van de revolutie die in de geneeskunde aan de gang is: de artificiële intelligentie (AI).


Hét voorbeeld van een AI-toepassing bij uitstek is IBM's supercomputer Watson, een nieuw soort machine die menselijke expertise combineert met digitale snelheid om op die manier patiënten gepersonaliseerde behandelingsadvies te geven. Maar er zijn bedenkingen bij: "Tot we de basis voor de AI en de wijze waarop de algoritmen werken begrijpen, moet er echt een derde partij zijn die controle uitoefent en transparantie garandeert," zegt Dr. Reshma Ramachandran, co-voorzitter van de FDA task force bij de National Physicians Alliance. Watson en soortgelijke "klinische beslissingsondersteunende" technologieën helpen artsen bij hun diagnose en behandeling van ziekten. Deze nieuwe generatie machines belooft de kracht van big data te benutten om de zorg voor patiënten te verbeteren, maar het vervaagt ook de traditionele scheidslijn tussen arts en machine, wat nieuwe potentiële risico's voor patiënten met zich meebrengt. Zoals elke nieuwe technologie, brengt Watson onbekende risico's met zich mee; wat bijvoorbeeld, wat als het advies verkeerd is en een patiënt schade berokkent?


Sommige artsen en consumentengroeperingen hebben betoogd dat kunstmatige intelligentiesystemen zoals Watson precies het soort technologie zijn die de FDA zou moeten nauwkeuriger onderzoeken. En dat is precies wat IBM weigert. IBM stelt dat zijn machine niet gereguleerd hoeft te worden omdat deze anders is dan andere medische hulpmiddelen. Watson is niet zoals een pacemaker of een CT-scanner, dus hoeft het bedrijf de overheid niet te bewijzen dat het veilig en effectief is. De botte boodschap luidt: Wij zullen de patiëntenzorg revolutioneren, dus gelieve uit de weg te gaan. De voorbije vier jaar besteedde IBM maar liefst $26.4 miljoen aan lobbying. Met succes. De nieuwe wet, de 21st Century Cures Act, onttrekt gezondheidssoftware aan de FDA jurisdictie.


Uit een recent onderzoek is gebleken dat een van Watsons uithangborden, Watson for Oncology, zijn doelstellingen niet haalt. Het systeem beweert de beste behandelingen voor individuele kankerpatiënten aan te bevelen, maar Watson worstelt om de verschillende vormen van kanker onder de knie te krijgen en wordt slechts in enkele tientallen ziekenhuizen wereldwijd opgesteld. Artsen in die ziekenhuizen die gebruik maken van het systeem begrijpen niet volledig hoe het werkt, terwijl anderen klagen over het feit dat de aanbevelingen van het systeem niet gemakkelijk toe te passen zijn voor patiënten met verschillende inkomens en culturen. Watson for Oncology wordt gevoed door de staf van het Memorial Sloan Kettering Cancer Center in New York, wat het zeer Amerikaans georiënteerd maakt. IBM zegt dat Watson ontworpen werd om medische kennis te "democratiseren" en artsen met minder gespecialiseerde deskundigheid bij de behandeling van kankerpatiënten te begeleiden.


Watson kan echter niet volledig uitleggen waarom bepaalde adviezen gegeven worden. Het kan medische literatuur aanhalen, maar het kan niet verklaren waarom het een bepaalde behandeling voor een bepaalde patiënt heeft geselecteerd. Dr. Meghan Dierks, een professor aan de Harvard Medical School en directeur van klinische systeemanalyse in het Beth Israel Deaconess Medical Center in Boston, zegt dat de implicaties hiervan zorgvuldig overwogen moeten worden. In die situaties, waar de afhankelijkheid van de machine groter is en de achterliggende reden voor de beslissing minder duidelijk is, zou meer toezicht op het systeem gerechtvaardigd kunnen zijn, zegt ze.


Tussen haakjes, IBM linkt via zijn systeem ook patiënten aan klinische studies en doet aanbevelingen voor kankerbehandeling op basis van genomische gegevens, via een partnerschap met Quest Diagnostics. Dergelijke informatie wordt nu informeel uitgewisseld via arts-artsrelatie, maar ook in ons land zijn academici grote voorstander van IBM-achtige systemen. Zij willen dat het maatschappelijk aangemoedigd wordt dat genomische data en patiëntengegevens zo vrijelijk mogelijk ter beschikking worden gesteld voor wetenschappelijk onderzoek. Zoals Prof. Yves Moreau van het K.U.Leuven SymBioSys Center for Computational Biology het stelt: "Er is nood aan computersystemen en statistieken op grote gegevensbanken." Hij wordt op zijn wenken bediend.


Lees ook: https://www.kuleuven.be/metaforum/docs/presentaties/wg-go...


Marc van Impe

 

Bron: MediQuality

09:39 Gepost door Marc van Impe | Permalink | Commentaren (0)

Post een commentaar