Lægeløfter i algoritmer
D. 5. september 2019 inviterede Tænk Teknologi i samarbejde med Novigo Health indenfor til et arrangement dedikeret til at udfolde tekno- logiske, medicinske og filosofiske perspektiver på maskinlæring og integrationen af maskinlæring i lægepraksis.
Til at belyse de etiske, teknologiske og medicinske perspektiver, som fordrer både potentialer og udfordringer, havde vi inviteret tre eksperter, der repræsenterede hver sit videnskabelige perspektiv på netop maskinlæring til medicinsk brug.
Herunder har vi samlet hovedpointerne fra aftenens oplæg og diskussion:
Filosof: Jens Christian Bjerring, Associate professor på Aarhus Universitet
Jens Christian stillede spørgsmålet:
”Hvad det gør ved vores forståelse af ’god medicinsk praksis’ når AI får større og større indflydelse på medicinske beslutninger?”
Han skitserede en konflikt mellem vores forståelse af medicin som evidensbaseret og black-box-AI systemer, hvor vi kan observere input og output, men ikke har nogen forståelse af hvorfor et givent input giver et bestemt output.
Tabet af medicinsk forståelse konflikter med vores opfattelse af informerede valg i medicinske sammenhænge: Hvordan skal en læge informere og vejlede sin patient, hvis ikke engang lægen forstår, hvorfor algoritmer outputter som de gør?
Ingeniør: Simon Lauritsen, Information Engineer hos Enversion
Hos Simon var spørgsmålet om forståelse og forklaring også i fokus.
Han gav os et indblik i hans arbejde med modelforklaringer, hvor han brugte eksempler på forudsigelse af akutte nyresygdomme. Modellerne kunne vise hvilke features, der gjorde udslaget for algoritmens output og dermed hjælpe klinisk personale og patienter med at forstå forudsigelserne.
Læge: Freddy Lippert; Direktør i Region Hovedstadens Akutberedskab
I Freddys oplæg var det ikke forklaringer og algoritme-forståelse, der var i fokus, men derimod hjertestop og menneske liv!
Han fortalte om AI systemet Corti, der kunne lytte med på opkald til akuttelefonen og give besked, hvis der var tale om hjertestop. Test viste, at Corti kunne fange 84,1% af hjertestopstilfældende mens medicinske personale opdagede 72.5% af tilfældene. Derudover var Corti også 31 sek. hurtigere til at ”opfatte”, at der var tale om hjertestop i sammenligning med det menneskelige medicinske personale, der tager telefonen hos alarmcentralen.
Freddy var ikke synderlig bekymret om forklaringsgraden i Corti, da han som direktør i Akutberedskabet i Region Hovedstaden priorite- rede at opdage så mange hjertestop som muligt, og dermed redde så mange liv som muligt.
Paneldiskussion og spørgsmål fra publikum
- Jens Christian: Det kunne være spændende at spørge folk hvad de ville have: En menneskelig læge der kan informerer og vejlede dig, eller et black-box AI system som performer bedre end lægen, men ingen forklaring giver.
- Freddy: Offentligheden skal vide hvor usikker lægegerningen er, og at vi ikke kan forklare alting.
- Simon: Sundhedsvæsnet må være vant til at tænke i sandsynligheder. Tænk bare på indlægssedler i medicin – hvad er forskellen?
Q:
Hvad skal man gøre hvis lægen og algoritmen ikke er enige i diagnosen? Skal lægens vurdering altid stå øverst uanset erfaring og uanset hvor kompliceret programmerne bliver lavet. Eller bør patienten drages ind i beslutningen, selvom denne ikke nødvendigvis har den fornødne viden til at vurdere situationen.
A:
- Freddy: Det kommer an på situationen… Lægen skal informere patienten, selvom man risikerer at forvirre.
Q:
Skal patienten spørges om værktøjet (AI systemer) skal bruges? Det virker som et point of no return når det først er i brug i diagnosticeringsproccessen.
A:
- Jens Christian: Det er et spørgsmål om værdi, og skal være op til den enkelte. Det afføder spørgsmålet om vi skal accepterer patientens autonomi.
Tak til oplægsholder og ordstyre!
Og tak til alle der kom og lyttede, og brugte deres torsdag aften på at udfolde teknologiske, medicinske og filosofiske perspektiver på maskinlæring i lægepraksis.
