11 oktober 2017

Artificiële Intelligentie laat zich niet reguleren


Alles in de medische wereld is gereguleerd. Van een latex handschoen tot een pacemaker, een kompres tot een kunstheup, elk apparaat, hulpmiddel, implantaat of medicijn moet aan strenge criteria voldoen. Daar zorgen in de VS de FDA en in Europa de EMA voor. Zij reguleren niet het oordeel van artsen, maar de veiligheid en effectiviteit van medische hulpmiddelen en geneesmiddelen die artsen voorschrijven.


Alles gereguleerd, behalve medische data. In ons land is het zelfs zo dat zowat elke grote universiteit zijn eigen dataopslagsysteem probeert aan de ziekenhuisman te brengen. Kwestie van de perifere ziekenhuizen aan zich te binden. En laten data nu net data de basis zijn van de revolutie die in de geneeskunde aan de gang is: de artificiële intelligentie (AI).


Hét voorbeeld van een AI-toepassing bij uitstek is IBM's supercomputer Watson, een nieuw soort machine die menselijke expertise combineert met digitale snelheid om op die manier patiënten gepersonaliseerde behandelingsadvies te geven. Maar er zijn bedenkingen bij: "Tot we de basis voor de AI en de wijze waarop de algoritmen werken begrijpen, moet er echt een derde partij zijn die controle uitoefent en transparantie garandeert," zegt Dr. Reshma Ramachandran, co-voorzitter van de FDA task force bij de National Physicians Alliance. Watson en soortgelijke "klinische beslissingsondersteunende" technologieën helpen artsen bij hun diagnose en behandeling van ziekten. Deze nieuwe generatie machines belooft de kracht van big data te benutten om de zorg voor patiënten te verbeteren, maar het vervaagt ook de traditionele scheidslijn tussen arts en machine, wat nieuwe potentiële risico's voor patiënten met zich meebrengt. Zoals elke nieuwe technologie, brengt Watson onbekende risico's met zich mee; wat bijvoorbeeld, wat als het advies verkeerd is en een patiënt schade berokkent?


Sommige artsen en consumentengroeperingen hebben betoogd dat kunstmatige intelligentiesystemen zoals Watson precies het soort technologie zijn die de FDA zou moeten nauwkeuriger onderzoeken. En dat is precies wat IBM weigert. IBM stelt dat zijn machine niet gereguleerd hoeft te worden omdat deze anders is dan andere medische hulpmiddelen. Watson is niet zoals een pacemaker of een CT-scanner, dus hoeft het bedrijf de overheid niet te bewijzen dat het veilig en effectief is. De botte boodschap luidt: Wij zullen de patiëntenzorg revolutioneren, dus gelieve uit de weg te gaan. De voorbije vier jaar besteedde IBM maar liefst $26.4 miljoen aan lobbying. Met succes. De nieuwe wet, de 21st Century Cures Act, onttrekt gezondheidssoftware aan de FDA jurisdictie.


Uit een recent onderzoek is gebleken dat een van Watsons uithangborden, Watson for Oncology, zijn doelstellingen niet haalt. Het systeem beweert de beste behandelingen voor individuele kankerpatiënten aan te bevelen, maar Watson worstelt om de verschillende vormen van kanker onder de knie te krijgen en wordt slechts in enkele tientallen ziekenhuizen wereldwijd opgesteld. Artsen in die ziekenhuizen die gebruik maken van het systeem begrijpen niet volledig hoe het werkt, terwijl anderen klagen over het feit dat de aanbevelingen van het systeem niet gemakkelijk toe te passen zijn voor patiënten met verschillende inkomens en culturen. Watson for Oncology wordt gevoed door de staf van het Memorial Sloan Kettering Cancer Center in New York, wat het zeer Amerikaans georiënteerd maakt. IBM zegt dat Watson ontworpen werd om medische kennis te "democratiseren" en artsen met minder gespecialiseerde deskundigheid bij de behandeling van kankerpatiënten te begeleiden.


Watson kan echter niet volledig uitleggen waarom bepaalde adviezen gegeven worden. Het kan medische literatuur aanhalen, maar het kan niet verklaren waarom het een bepaalde behandeling voor een bepaalde patiënt heeft geselecteerd. Dr. Meghan Dierks, een professor aan de Harvard Medical School en directeur van klinische systeemanalyse in het Beth Israel Deaconess Medical Center in Boston, zegt dat de implicaties hiervan zorgvuldig overwogen moeten worden. In die situaties, waar de afhankelijkheid van de machine groter is en de achterliggende reden voor de beslissing minder duidelijk is, zou meer toezicht op het systeem gerechtvaardigd kunnen zijn, zegt ze.


Tussen haakjes, IBM linkt via zijn systeem ook patiënten aan klinische studies en doet aanbevelingen voor kankerbehandeling op basis van genomische gegevens, via een partnerschap met Quest Diagnostics. Dergelijke informatie wordt nu informeel uitgewisseld via arts-artsrelatie, maar ook in ons land zijn academici grote voorstander van IBM-achtige systemen. Zij willen dat het maatschappelijk aangemoedigd wordt dat genomische data en patiëntengegevens zo vrijelijk mogelijk ter beschikking worden gesteld voor wetenschappelijk onderzoek. Zoals Prof. Yves Moreau van het K.U.Leuven SymBioSys Center for Computational Biology het stelt: "Er is nood aan computersystemen en statistieken op grote gegevensbanken." Hij wordt op zijn wenken bediend.


Lees ook: https://www.kuleuven.be/metaforum/docs/presentaties/wg-go...


Marc van Impe

 

Bron: MediQuality

09:39 Gepost door Marc van Impe | Permalink | Commentaren (0)

Racisme op spoed


We spreken elkaar wel eens op het Brusselse Vossenplein. Ik speur er naar oude kookboeken, hij naar boekjes uit ons koloniale tijdperk. Ergens hebben we een aanknopingspunt: ik een ex die in Congo geboren werd, hij zijn jeugd die hij in Bumba doorbracht. Hij is arts nu, op de spoedafdeling van een ziekenhuis.


Zijn verhaal: een 80-jarige blanke man met hartfalen komt om 3 uur's ochtends in de spoedafdeling van een stedelijk ziekenhuis met kortademigheid en koorts aan. Wanneer ik, een zwarte arts binnenkomt, kondigt de man onmiddellijk aan: "Ik wil niet verzorgd worden door een %$#!" . Ik ga door, we hebben assistentie nodig om de man te nodige zorgen toe te dienen. Na afloop ga ik met de administratie aan de slag. Ik hoor de verpleging grapjes maken. De volgende dag heeft heel het ziekenhuis van het incident gehoord.


Ik voelde me niet beledigd door de afwijzing noch de vernederende taal van de man – voor mij was dit een patiënt met een ernstige medische aandoening en het is niet de eerste maal dat iemand tegen zijn wil moet behandelen. Hoe zou jij reageren? Hij vertelt me over een zwarte collega die wél weigerde en daarvoor door zijn directie gesanctioneerd werd. De familie van de patiënt ondernam zelfs stappen bij de Orde. De arts werd van discriminatie beschuldigd. Hoe moet een arts die zo beledigd wordt te werk gaan?


De weigering om een patiënt zorg te verlenen op basis van het ras of etnische achtergrond kan niet, maar hoe gaat dat in de andere richting naar de behandelend arts toe? Welke netelige ethische, juridische en klinische problemen gaat dit opleveren? En hoe pijnlijk, verwarrend en kwetsend is dit voor de betrokken artsen. Dat geldt trouwens ook voor het verplegend en logistiek personeel. Ook zij worden regelmatig beledigd op basis van hun huidskleur of afkomst.


Een patiënt heeft in principe het recht om medische zorg te weigeren, inclusief behandeling door een arts. Verondersteld wordt dat de patiënt bewust is en een geïnformeerde weigering formuleert. Maar in noodgevallen wordt van ziekenhuizen geëist dat ze de patiënten screenen, stabiliseren en zo nodig medische behandeling verlenen, daarna kan eventueel met toestemming en op vaag van de patiënt een overdracht geregel worden naar een derde instelling.


Anderzijds hebben artsen en andere gezondheidswerkers recht op een werkplek die vrij is van discriminatie op grond van ras, huidskleur, godsdienst, geslacht en land van herkomst. Organisaties, zoals een ziekenhuis, die beslissingen nemen op basis van ras of etnische achtergrond en ingaan op een verzoek van een patiënt om verplaatsing op basis van ras of etnische achtergrond van een werknemer, schenden in feite de wet.


Artsen zullen zo'n discriminatie niet snel aankaarten. Ten eerste zijn veel artsen, in tegenstelling tot verpleegkundigen, geen ziekenhuismedewerkers, maar "zelfstandige contractanten", die nauwelijks controle uitoefenen over de manier en de omstandigheden waarin zij hun werk uitvoeren. Ten tweede bepalen artsen vaak onderling hoe ze verzoeken met dergelijke situaties omgaan. Niet zelden kan het racisme en de onverdraagzaamheid worden toegeschreven aan een delirium, dementie of psychose. Patiënten met een aanzienlijk verminderde cognitie worden over het algemeen niet als ethisch verantwoordelijk beschouwd.


Vaak zijn er de familieleden die de patiënt ertoe kunnen overhalen om de noodzakelijke medische behandeling te accepteren. Ik vrees dat dit alleen maar zal toenemen naarmate de artsenpopulatie in dit land etnisch diverser wordt. Heeft de Orde van Artsen daarover al nagedacht en werd er nu al een kader gecreëerd om dergelijke conflicten in overweging te nemen en aan te pakken?


Maar, zegt mijn gesprekspartner, er zijn nog andere gevallen. Ik ben zwart, dat maakt de zaken zwart-wit en duidelijk. Maar ik maak het steeds vaker mee dat vrouwelijke moslimpatiënten elke hulp van een mannelijke arts weigeren.


Marc van Impe

 

Bron: MediQuality

08:04 Gepost door Marc van Impe | Permalink | Commentaren (0)