11 oktober 2017

Artificiële Intelligentie laat zich niet reguleren


Alles in de medische wereld is gereguleerd. Van een latex handschoen tot een pacemaker, een kompres tot een kunstheup, elk apparaat, hulpmiddel, implantaat of medicijn moet aan strenge criteria voldoen. Daar zorgen in de VS de FDA en in Europa de EMA voor. Zij reguleren niet het oordeel van artsen, maar de veiligheid en effectiviteit van medische hulpmiddelen en geneesmiddelen die artsen voorschrijven.


Alles gereguleerd, behalve medische data. In ons land is het zelfs zo dat zowat elke grote universiteit zijn eigen dataopslagsysteem probeert aan de ziekenhuisman te brengen. Kwestie van de perifere ziekenhuizen aan zich te binden. En laten data nu net data de basis zijn van de revolutie die in de geneeskunde aan de gang is: de artificiële intelligentie (AI).


Hét voorbeeld van een AI-toepassing bij uitstek is IBM's supercomputer Watson, een nieuw soort machine die menselijke expertise combineert met digitale snelheid om op die manier patiënten gepersonaliseerde behandelingsadvies te geven. Maar er zijn bedenkingen bij: "Tot we de basis voor de AI en de wijze waarop de algoritmen werken begrijpen, moet er echt een derde partij zijn die controle uitoefent en transparantie garandeert," zegt Dr. Reshma Ramachandran, co-voorzitter van de FDA task force bij de National Physicians Alliance. Watson en soortgelijke "klinische beslissingsondersteunende" technologieën helpen artsen bij hun diagnose en behandeling van ziekten. Deze nieuwe generatie machines belooft de kracht van big data te benutten om de zorg voor patiënten te verbeteren, maar het vervaagt ook de traditionele scheidslijn tussen arts en machine, wat nieuwe potentiële risico's voor patiënten met zich meebrengt. Zoals elke nieuwe technologie, brengt Watson onbekende risico's met zich mee; wat bijvoorbeeld, wat als het advies verkeerd is en een patiënt schade berokkent?


Sommige artsen en consumentengroeperingen hebben betoogd dat kunstmatige intelligentiesystemen zoals Watson precies het soort technologie zijn die de FDA zou moeten nauwkeuriger onderzoeken. En dat is precies wat IBM weigert. IBM stelt dat zijn machine niet gereguleerd hoeft te worden omdat deze anders is dan andere medische hulpmiddelen. Watson is niet zoals een pacemaker of een CT-scanner, dus hoeft het bedrijf de overheid niet te bewijzen dat het veilig en effectief is. De botte boodschap luidt: Wij zullen de patiëntenzorg revolutioneren, dus gelieve uit de weg te gaan. De voorbije vier jaar besteedde IBM maar liefst $26.4 miljoen aan lobbying. Met succes. De nieuwe wet, de 21st Century Cures Act, onttrekt gezondheidssoftware aan de FDA jurisdictie.


Uit een recent onderzoek is gebleken dat een van Watsons uithangborden, Watson for Oncology, zijn doelstellingen niet haalt. Het systeem beweert de beste behandelingen voor individuele kankerpatiënten aan te bevelen, maar Watson worstelt om de verschillende vormen van kanker onder de knie te krijgen en wordt slechts in enkele tientallen ziekenhuizen wereldwijd opgesteld. Artsen in die ziekenhuizen die gebruik maken van het systeem begrijpen niet volledig hoe het werkt, terwijl anderen klagen over het feit dat de aanbevelingen van het systeem niet gemakkelijk toe te passen zijn voor patiënten met verschillende inkomens en culturen. Watson for Oncology wordt gevoed door de staf van het Memorial Sloan Kettering Cancer Center in New York, wat het zeer Amerikaans georiënteerd maakt. IBM zegt dat Watson ontworpen werd om medische kennis te "democratiseren" en artsen met minder gespecialiseerde deskundigheid bij de behandeling van kankerpatiënten te begeleiden.


Watson kan echter niet volledig uitleggen waarom bepaalde adviezen gegeven worden. Het kan medische literatuur aanhalen, maar het kan niet verklaren waarom het een bepaalde behandeling voor een bepaalde patiënt heeft geselecteerd. Dr. Meghan Dierks, een professor aan de Harvard Medical School en directeur van klinische systeemanalyse in het Beth Israel Deaconess Medical Center in Boston, zegt dat de implicaties hiervan zorgvuldig overwogen moeten worden. In die situaties, waar de afhankelijkheid van de machine groter is en de achterliggende reden voor de beslissing minder duidelijk is, zou meer toezicht op het systeem gerechtvaardigd kunnen zijn, zegt ze.


Tussen haakjes, IBM linkt via zijn systeem ook patiënten aan klinische studies en doet aanbevelingen voor kankerbehandeling op basis van genomische gegevens, via een partnerschap met Quest Diagnostics. Dergelijke informatie wordt nu informeel uitgewisseld via arts-artsrelatie, maar ook in ons land zijn academici grote voorstander van IBM-achtige systemen. Zij willen dat het maatschappelijk aangemoedigd wordt dat genomische data en patiëntengegevens zo vrijelijk mogelijk ter beschikking worden gesteld voor wetenschappelijk onderzoek. Zoals Prof. Yves Moreau van het K.U.Leuven SymBioSys Center for Computational Biology het stelt: "Er is nood aan computersystemen en statistieken op grote gegevensbanken." Hij wordt op zijn wenken bediend.


Lees ook: https://www.kuleuven.be/metaforum/docs/presentaties/wg-go...


Marc van Impe

 

Bron: MediQuality

09:39 Gepost door Marc van Impe | Permalink | Commentaren (0)

13 september 2017

De robot geeft advies


Een medisch advies is een kop soep waard, een juridisch advies kost een maandloon. Ik consulteerde nog niet zo lang geleden een raadsman in een delicate doch banale kwestie. Zo’n 3.000 euro later en een paar illusies minder wist ik waar ik aan toe was.


Het juridisch advies was noppes, de zaak werd buiten de rechtbank geregeld onder heren. De advocaat rekende me tot op de seconde zijn telefoontjes aan, zijn wandel naar de kopieermachine, zijn tocht naar de griffie (250 m verder in de straat) tot en met 4€ verzendkosten per brief. Een praatje met een bevriend jurist die achteraf het juiste advies gaf, kostte me een paar pinten en een lunch. Ter vergelijking: een consultatie bij de geleerde vrouw kost de patiënt nog geen kop soep in het ziekenhuisrestaurant. Wie heeft er het langst gestudeerd dacht u? De verhoudingen zijn zoek. Maar toch heb ik daar bedenkingen bij. Dat komt zo:


Artificiële Intelligentie krijgt in ons land zijn eerste toepassing in een intellectueel vrij beroep. Het juridisch adviesbureau deJuristen uit Gent heeft de eerste juridische robot in Europa gelanceerd: ‘Lee & Ally'. De chatbot beantwoordt uw juridische vragen, op basis van een juridische databank. De bèta-versie is nu beschikbaar voor de Vlaamse markt.


TheJurists Europe haalde eerder één miljoen euro binnen voor de uitrol van haar juridisch AI-platform. De bedoeling is dat u snel en tegen een redelijke prijs advies krijgt in courante juridische zaken. De initiatiefnemers zeggen nu al dat op die manier tegen 2025 80% van de advocaten werkloos is. Voor huisartsen klinkt dezelfde onheilsboodschap. Maar is dat zo? Ik geloof het niet.


TheJurists Europe doet beroep op artificiële intelligentie om juridisch advies te verlenen aan bedrijven. "Hier dromen we al zeven jaar van", stelt Matthias Dobbelaere-Welvaert, (nomen est omen) managing partner bij deJuristen. "De klassieke juridische markt is al decennia lang onveranderd gebleven. Nu is de technologie eindelijk zover om een betekenisvolle schokgolf door het juridische landschap te laten gaan."


De virtuele juridische robot, Lee & Ally genaamd heeft als testpubliek vooral tech start-ups voor ogen. De bèta is één maand gratis te testen, waarna testers 35 euro per maand betalen. Voor dat bedrag kunnen ze juridische antwoorden en documenten opvragen bij de robot, of terugvallen op de menselijke helpdesk van deJuristen Gent. De bot specialiseert zich op dit moment in een beperkt aantal juridische domeinen: intellectuele eigendom, privacy, e-commerce en ondernemingsrecht. De finale versie moet in het eerste kwartaal van 2018 gelanceerd worden in vier à vijf landen. Daarvoor zal 99 euro per maand gevraagd worden.


Op korte, gerichte vragen geeft de robot een snel en automatisch juridisch advies. Mogelijke vragen zijn: ‘Hoe kan ik iemand aannemen? Wat met mijn recht op privacy?'. Aan de hand van keywords tracht de 'jurdische Siri' te achterhalen wat het juiste antwoord is. Mocht de robot op een bepaalde vraag niet kunnen antwoorden, of mocht hij een fout antwoord geven, dan is er een menselijke helpdesk beschikbaar. Die kan je vervolgens verder helpen. De vraag blijft hoe je als klant weet dat de chatbot fout is?


Het is niet het enige online initiatief in ons land. In de Verenigde Staten is 'legaltech' de talk-of-the-day. Daar bestaat ook al een gratis juridische robot voor particulieren gelanceerd. Volgens de Wereldorganisatie voor de Intellectuele Eigendom werden vorig jaar 579 patenten goedgekeurd die technologie koppelen aan nieuwe juridische diensten. Vijf jaar geleden waren dat er nog maar 99.


IBM's supercomputer Watson heeft ROSS, de juridische vraagbaak, die een deel van het advocatenwerkproces automatiseert. In plaats van zelf wetboeken open te slaan, kunnen advocaten hun vragen stellen aan ROSS. Bevalt het antwoord niet, dan kan je dat aangeven en zoekt hij verder. Door die feedback kan de robot zijn dienstverlening voortdurend optimaliseren.


Lee & Ally, de virtuele bot van deJuristen werkt net zo. Na elke vraag kan je aangeven of het antwoord slecht, matig of goed was en waarom, zodat de bot steeds slimmer wordt. Je zou de vraag kunnen stellen of de robot jou niet zou moeten betalen. Volgens Dobbelaere-Welvaert is het recht op die manier voor 99 procent automatiseerbaar. "De combinatie van de geschreven wet (het wetboek), het gesproken recht (de rechtspraak) en studie van beiden (de rechtsleer) kan perfect door een intelligente bot worden geïnterpreteerd en in mensentaal worden omgezet", schrijft hij in een blog op Medium. In de wereld van de geneeskunde hoor ik dezelfde verhalen.


Matthias Dobbelaere-Welvaert van deJuristen. "Volgend jaar is het de bedoeling dat de robot ook buiten België gelanceerd wordt, en dat ook particulieren er gebruik kunnen van maken. We willen de robot tegen dan verbeteren aan de hand van de feedback van gebruikers." ‘Maar tussen droom en daad staan wetten in de weg en praktische bezwaren, en ook weemoedigheid, die niemand kan verklaren, en die des avonds komt, wanneer men slapen gaat.', schreef Willem Elsschot.


En dat merkte ook de redactie van de VRT die enkele ingewikkelder vragen stelde en soms vreemde antwoorden kreeg. Maar Matthias Dobbelaere-Welvaert van deJuristen is overtuigd: na hun robot komen nog veel andere. Al hebben anderen daar misschien een andere kijk op. Zo tweette advocaat Anthony Godfroid: "Een chattende juristenbot is zoals virtuele seks: het lijkt een goede vervanging, maar op het einde van de rit blijf je op je honger zitten."


Niet altijd juist, maar een goede bedenking. En dat geldt ook voor de geneeskunde. Alleen gaat daar soms over het leven of de dood. En die keuze wil ik toch niet graag aan robot overlaten.


https://leeally.com/

Marc van Impe

Bron: MediQuality

11:10 Gepost door Marc van Impe | Permalink | Commentaren (0)