03 december 2017

Vivons cachés


Ik huiver voor een overheid die alles over mij wil weten. Niet dat ik wat te verbergen heb of dat ik in het verborgene wil leven, maar er zit waarheid in het gezegde van de krekel uit die fabel uit de 18de eeuw: pour vivre heureux, vivons cachés.


De overheid kijkt met een ijzeren bril naar de werkelijkheid en een morele kijk ontbreekt vaak en dat is een reden tot bezorgdheid. Ik zat daaraan te denken tijdens een recent symposium over de impact van de technologie op de gezondheidszorg. EHealth heet dat. De nieuwe technologie, die ik gemakkelijkheid halve onder de noemer Artificiële Intelligentie (AI) plaats, is immers niet neutraal. Ik las recent over twee giga-techondernemers die diametraal tegenover elkaar staan: Tesla-topman Elon Musk en Facebook-CEO Mark Zuckerberg. Musk zegt dat AI een gevaar betekent voor de mensheid en meer gereguleerd moet worden. Zuckerberg noemt dit onverantwoord doemdenken wat een rem zet op de voordelen die AI kan bieden.


Ook in de gezondheidszorg ziet men die tegenstelling. De Zuckeriaanse techno-optimisten geloven dat de AI uiteindelijk een zegen is voor de mens en aan zijn welzijn zal bijdragen. De Muskiaanse techno-pessimisten stellen zich kritisch op en opteren niet voor een ongebreidelde technologische ontwikkeling. Ik wil graag een vergelijking maken met de wapenlobby die een amorele visie op technologie heeft waarbij technologie noch goed, noch slecht is. Het hangt er van af wat je er mee doet. "Guns don't kill people; people kill people." Mark Zuckerberg gebruikt net zoals die lobby zo'n argument om de eigen verantwoordelijkheid over innovaties op de gebruiker of anderen af te wentelen.


Elon Musk geeft blijk van een meer ethisch bewuste visie op technologie, die niet neutraal is, maar een inherente morele lading heeft. In tegenstelling tot bijvoorbeeld natuurfenomenen overkomt technologie ons niet. Technologie wordt gemaakt voor en door mensen en weerspiegelt de morele opvattingen van de ontwerpers ervan.


Ik kom terug op de recente rel rond de doorverkoop van medische gegevens aan QuintelesIMS. Dat dit zou gebeuren ligt voor de hand. De fabrikant van de poetsrobot iRobot maakte onlangs bekend dat ze in de toekomst niet alleen uw stof maar ook data over uw woning zal opslaan. Het bedrijf wil die data doorverkopen aan Google of Amazon, die dan hun op maat gemaakte advertenties in uw mailbox dumpen.


De robot op zich deugt wel, de ontwerper misbruikt echter uw vertrouwen. Het laat de dataopslag nu afhangen van een ‘opt-in' toepassing. De gebruiker moet dus expliciet zijn toestemming geven. Waarom vraagt men dat dan niet als het om mijn medische data gaat? Ik vind dit een ethisch vraagstuk, waarover de Orde der Artsen zich eens zou mogen uitspreken.


"Het besef van een ethiek inherent aan de techniek ontbreekt in de Zuckeriaanse visie op technologie, die zoals gezegd wel vaker voorkomt in de technologiewereld. Dat gebrek aan een morele kijk op technologie is een reden om bezorgd te zijn," zegt de filosoof Jochanan Eynikel van de denktank ETION. "Ik twijfel persoonlijk niet aan Zuckerbergs goede bedoelingen. Maar het pleit voor Musk dat hij vooruitdenkt over de sociale en ethische consequenties van technologie." Wie data verzamelt moet zich houden aan de regels van het goed fatsoen. Ook als dat de overheid zelve is.


Moreel verantwoorde AI begint daar en niet bij de gebruiker of in een verre toekomst. Dat de overheid niet altijd moreel hoogstaand gedrag aan de dag legt, leerde Jean-Pierre Claris de Florian, de auteur van de fabel.


Hij werd op de 27ste fructidor van het jaar II het slachtoffer van de eerste overheid die systematisch alle data over zijn burgers verzamelde: het Comité de Sûreté Générale van de Eerste Franse Republiek, dat uitgevonden had dat hij ooit een fabel opdroeg aan Marie-Antoinette.

Marc van Impe



Bron: MediQuality

09:15 Gepost door Marc van Impe | Permalink | Commentaren (0)

11 oktober 2017

Artificiële Intelligentie laat zich niet reguleren


Alles in de medische wereld is gereguleerd. Van een latex handschoen tot een pacemaker, een kompres tot een kunstheup, elk apparaat, hulpmiddel, implantaat of medicijn moet aan strenge criteria voldoen. Daar zorgen in de VS de FDA en in Europa de EMA voor. Zij reguleren niet het oordeel van artsen, maar de veiligheid en effectiviteit van medische hulpmiddelen en geneesmiddelen die artsen voorschrijven.


Alles gereguleerd, behalve medische data. In ons land is het zelfs zo dat zowat elke grote universiteit zijn eigen dataopslagsysteem probeert aan de ziekenhuisman te brengen. Kwestie van de perifere ziekenhuizen aan zich te binden. En laten data nu net data de basis zijn van de revolutie die in de geneeskunde aan de gang is: de artificiële intelligentie (AI).


Hét voorbeeld van een AI-toepassing bij uitstek is IBM's supercomputer Watson, een nieuw soort machine die menselijke expertise combineert met digitale snelheid om op die manier patiënten gepersonaliseerde behandelingsadvies te geven. Maar er zijn bedenkingen bij: "Tot we de basis voor de AI en de wijze waarop de algoritmen werken begrijpen, moet er echt een derde partij zijn die controle uitoefent en transparantie garandeert," zegt Dr. Reshma Ramachandran, co-voorzitter van de FDA task force bij de National Physicians Alliance. Watson en soortgelijke "klinische beslissingsondersteunende" technologieën helpen artsen bij hun diagnose en behandeling van ziekten. Deze nieuwe generatie machines belooft de kracht van big data te benutten om de zorg voor patiënten te verbeteren, maar het vervaagt ook de traditionele scheidslijn tussen arts en machine, wat nieuwe potentiële risico's voor patiënten met zich meebrengt. Zoals elke nieuwe technologie, brengt Watson onbekende risico's met zich mee; wat bijvoorbeeld, wat als het advies verkeerd is en een patiënt schade berokkent?


Sommige artsen en consumentengroeperingen hebben betoogd dat kunstmatige intelligentiesystemen zoals Watson precies het soort technologie zijn die de FDA zou moeten nauwkeuriger onderzoeken. En dat is precies wat IBM weigert. IBM stelt dat zijn machine niet gereguleerd hoeft te worden omdat deze anders is dan andere medische hulpmiddelen. Watson is niet zoals een pacemaker of een CT-scanner, dus hoeft het bedrijf de overheid niet te bewijzen dat het veilig en effectief is. De botte boodschap luidt: Wij zullen de patiëntenzorg revolutioneren, dus gelieve uit de weg te gaan. De voorbije vier jaar besteedde IBM maar liefst $26.4 miljoen aan lobbying. Met succes. De nieuwe wet, de 21st Century Cures Act, onttrekt gezondheidssoftware aan de FDA jurisdictie.


Uit een recent onderzoek is gebleken dat een van Watsons uithangborden, Watson for Oncology, zijn doelstellingen niet haalt. Het systeem beweert de beste behandelingen voor individuele kankerpatiënten aan te bevelen, maar Watson worstelt om de verschillende vormen van kanker onder de knie te krijgen en wordt slechts in enkele tientallen ziekenhuizen wereldwijd opgesteld. Artsen in die ziekenhuizen die gebruik maken van het systeem begrijpen niet volledig hoe het werkt, terwijl anderen klagen over het feit dat de aanbevelingen van het systeem niet gemakkelijk toe te passen zijn voor patiënten met verschillende inkomens en culturen. Watson for Oncology wordt gevoed door de staf van het Memorial Sloan Kettering Cancer Center in New York, wat het zeer Amerikaans georiënteerd maakt. IBM zegt dat Watson ontworpen werd om medische kennis te "democratiseren" en artsen met minder gespecialiseerde deskundigheid bij de behandeling van kankerpatiënten te begeleiden.


Watson kan echter niet volledig uitleggen waarom bepaalde adviezen gegeven worden. Het kan medische literatuur aanhalen, maar het kan niet verklaren waarom het een bepaalde behandeling voor een bepaalde patiënt heeft geselecteerd. Dr. Meghan Dierks, een professor aan de Harvard Medical School en directeur van klinische systeemanalyse in het Beth Israel Deaconess Medical Center in Boston, zegt dat de implicaties hiervan zorgvuldig overwogen moeten worden. In die situaties, waar de afhankelijkheid van de machine groter is en de achterliggende reden voor de beslissing minder duidelijk is, zou meer toezicht op het systeem gerechtvaardigd kunnen zijn, zegt ze.


Tussen haakjes, IBM linkt via zijn systeem ook patiënten aan klinische studies en doet aanbevelingen voor kankerbehandeling op basis van genomische gegevens, via een partnerschap met Quest Diagnostics. Dergelijke informatie wordt nu informeel uitgewisseld via arts-artsrelatie, maar ook in ons land zijn academici grote voorstander van IBM-achtige systemen. Zij willen dat het maatschappelijk aangemoedigd wordt dat genomische data en patiëntengegevens zo vrijelijk mogelijk ter beschikking worden gesteld voor wetenschappelijk onderzoek. Zoals Prof. Yves Moreau van het K.U.Leuven SymBioSys Center for Computational Biology het stelt: "Er is nood aan computersystemen en statistieken op grote gegevensbanken." Hij wordt op zijn wenken bediend.


Lees ook: https://www.kuleuven.be/metaforum/docs/presentaties/wg-go...


Marc van Impe

 

Bron: MediQuality

09:39 Gepost door Marc van Impe | Permalink | Commentaren (0)

13 september 2017

De robot geeft advies


Een medisch advies is een kop soep waard, een juridisch advies kost een maandloon. Ik consulteerde nog niet zo lang geleden een raadsman in een delicate doch banale kwestie. Zo’n 3.000 euro later en een paar illusies minder wist ik waar ik aan toe was.


Het juridisch advies was noppes, de zaak werd buiten de rechtbank geregeld onder heren. De advocaat rekende me tot op de seconde zijn telefoontjes aan, zijn wandel naar de kopieermachine, zijn tocht naar de griffie (250 m verder in de straat) tot en met 4€ verzendkosten per brief. Een praatje met een bevriend jurist die achteraf het juiste advies gaf, kostte me een paar pinten en een lunch. Ter vergelijking: een consultatie bij de geleerde vrouw kost de patiënt nog geen kop soep in het ziekenhuisrestaurant. Wie heeft er het langst gestudeerd dacht u? De verhoudingen zijn zoek. Maar toch heb ik daar bedenkingen bij. Dat komt zo:


Artificiële Intelligentie krijgt in ons land zijn eerste toepassing in een intellectueel vrij beroep. Het juridisch adviesbureau deJuristen uit Gent heeft de eerste juridische robot in Europa gelanceerd: ‘Lee & Ally'. De chatbot beantwoordt uw juridische vragen, op basis van een juridische databank. De bèta-versie is nu beschikbaar voor de Vlaamse markt.


TheJurists Europe haalde eerder één miljoen euro binnen voor de uitrol van haar juridisch AI-platform. De bedoeling is dat u snel en tegen een redelijke prijs advies krijgt in courante juridische zaken. De initiatiefnemers zeggen nu al dat op die manier tegen 2025 80% van de advocaten werkloos is. Voor huisartsen klinkt dezelfde onheilsboodschap. Maar is dat zo? Ik geloof het niet.


TheJurists Europe doet beroep op artificiële intelligentie om juridisch advies te verlenen aan bedrijven. "Hier dromen we al zeven jaar van", stelt Matthias Dobbelaere-Welvaert, (nomen est omen) managing partner bij deJuristen. "De klassieke juridische markt is al decennia lang onveranderd gebleven. Nu is de technologie eindelijk zover om een betekenisvolle schokgolf door het juridische landschap te laten gaan."


De virtuele juridische robot, Lee & Ally genaamd heeft als testpubliek vooral tech start-ups voor ogen. De bèta is één maand gratis te testen, waarna testers 35 euro per maand betalen. Voor dat bedrag kunnen ze juridische antwoorden en documenten opvragen bij de robot, of terugvallen op de menselijke helpdesk van deJuristen Gent. De bot specialiseert zich op dit moment in een beperkt aantal juridische domeinen: intellectuele eigendom, privacy, e-commerce en ondernemingsrecht. De finale versie moet in het eerste kwartaal van 2018 gelanceerd worden in vier à vijf landen. Daarvoor zal 99 euro per maand gevraagd worden.


Op korte, gerichte vragen geeft de robot een snel en automatisch juridisch advies. Mogelijke vragen zijn: ‘Hoe kan ik iemand aannemen? Wat met mijn recht op privacy?'. Aan de hand van keywords tracht de 'jurdische Siri' te achterhalen wat het juiste antwoord is. Mocht de robot op een bepaalde vraag niet kunnen antwoorden, of mocht hij een fout antwoord geven, dan is er een menselijke helpdesk beschikbaar. Die kan je vervolgens verder helpen. De vraag blijft hoe je als klant weet dat de chatbot fout is?


Het is niet het enige online initiatief in ons land. In de Verenigde Staten is 'legaltech' de talk-of-the-day. Daar bestaat ook al een gratis juridische robot voor particulieren gelanceerd. Volgens de Wereldorganisatie voor de Intellectuele Eigendom werden vorig jaar 579 patenten goedgekeurd die technologie koppelen aan nieuwe juridische diensten. Vijf jaar geleden waren dat er nog maar 99.


IBM's supercomputer Watson heeft ROSS, de juridische vraagbaak, die een deel van het advocatenwerkproces automatiseert. In plaats van zelf wetboeken open te slaan, kunnen advocaten hun vragen stellen aan ROSS. Bevalt het antwoord niet, dan kan je dat aangeven en zoekt hij verder. Door die feedback kan de robot zijn dienstverlening voortdurend optimaliseren.


Lee & Ally, de virtuele bot van deJuristen werkt net zo. Na elke vraag kan je aangeven of het antwoord slecht, matig of goed was en waarom, zodat de bot steeds slimmer wordt. Je zou de vraag kunnen stellen of de robot jou niet zou moeten betalen. Volgens Dobbelaere-Welvaert is het recht op die manier voor 99 procent automatiseerbaar. "De combinatie van de geschreven wet (het wetboek), het gesproken recht (de rechtspraak) en studie van beiden (de rechtsleer) kan perfect door een intelligente bot worden geïnterpreteerd en in mensentaal worden omgezet", schrijft hij in een blog op Medium. In de wereld van de geneeskunde hoor ik dezelfde verhalen.


Matthias Dobbelaere-Welvaert van deJuristen. "Volgend jaar is het de bedoeling dat de robot ook buiten België gelanceerd wordt, en dat ook particulieren er gebruik kunnen van maken. We willen de robot tegen dan verbeteren aan de hand van de feedback van gebruikers." ‘Maar tussen droom en daad staan wetten in de weg en praktische bezwaren, en ook weemoedigheid, die niemand kan verklaren, en die des avonds komt, wanneer men slapen gaat.', schreef Willem Elsschot.


En dat merkte ook de redactie van de VRT die enkele ingewikkelder vragen stelde en soms vreemde antwoorden kreeg. Maar Matthias Dobbelaere-Welvaert van deJuristen is overtuigd: na hun robot komen nog veel andere. Al hebben anderen daar misschien een andere kijk op. Zo tweette advocaat Anthony Godfroid: "Een chattende juristenbot is zoals virtuele seks: het lijkt een goede vervanging, maar op het einde van de rit blijf je op je honger zitten."


Niet altijd juist, maar een goede bedenking. En dat geldt ook voor de geneeskunde. Alleen gaat daar soms over het leven of de dood. En die keuze wil ik toch niet graag aan robot overlaten.


https://leeally.com/

Marc van Impe

Bron: MediQuality

11:10 Gepost door Marc van Impe | Permalink | Commentaren (0)