L'explicabilitat de la Intel·ligència Artificial a les ciències de la vida

Explainable AI in Healthcare. Unboxing Machine Learning for Biomedicine

Solving the explainable AI conundrum by bridging clinicians’ needs and developers’ goals

Tot això va molt ràpid. I potser algú s'hauria de posar a revisar-ne els fonaments i les seves conseqüències. Em refereixo en concret al que es coneix com explicabilitat de la intel·ligència artificial. En aquest blog m'hi he referit com Black Box Medicine.

Caldria que els algoritmes que s'utilitzen puguin ser permeables al coneixement dels humans, o dit altrament, que si no és explicable doncs aleshores no sabem com s'arriba al resultat i que si ho repliquem tampoc sabem si sortirà el mateix (fiabilitat). A les ciències de la vida és encara més rellevant, perquè l'impacte pot ser determinant per la salut i la vida.

Avui aporto un llibre i un article. El llibre no l'he llegit, però tinc la impressió que és el més complet que hi ha per ara en aquesta qüestió des d'un punt de vista pràctic. L'article de Nature reflecteix les perspectives dels informàtics versus els clínics, i en una gràfica es mostra tot: 

I ja podem veure que no hi ha acord i que cal reduir les diferències de perspectiva. Per ara ha sortit guanyant els primers.

Del llibre en reprodueixo l'índex:

1. Human–AI Relationship in Healthcare

2. Deep Learning in Medical Image Analysis: Recent Models and Explainability

3. An Overview of Functional Near-Infrared Spectroscopy and Explainable Artificial Intelligence in fNIRS

4. An Explainable Method for Image Registration with Applications in Medical Imaging

5. State-of-the-Art Deep Learning Method and Its Explainability for Computerized Tomography Image Segmentation

6. Interpretability of Segmentation and Overall Survival for Brain Tumors

7. Identification of MR Image Biomarkers in Brain Tumor Patients Using Machine Learning and Radiomics Features

8. Explainable Artificial Intelligence in Breast Cancer Identification

9. Interpretability of Self-Supervised Learning for Breast Cancer Image Analysis

10. Predictive Analytics in Hospital Readmission for Diabetes Risk Patients

11. Continuous Blood Glucose Monitoring Using Explainable AI Techniques

12. Decision Support System for Facial Emotion-Based Progression Detection of Parkinson’s Patients

13. Interpretable Machine Learning in Athletics for Injury Risk Prediction

14. Federated Learning and Explainable AI in Healthcare

Si un dels principis de la bioètica com diu Floridi, hauria de ser l'explicabilitat, ens queda un llarg camí per aconseguir que així sigui. Tinc la impressió que estem davant una estratègia de fets consumats: els algoritmes són aquí, i no sé explicar com s'arriba a aquest resultat amb aquest algoritme.

PS. Ha arribat la intel·ligència artificial open source, la regulació i explicabilitat esdevenen encara més rellevants.

Les decisions de política sanitària que cal prendre

 La sanidad en la encrucijada post-COVID. Financiación, organización y gestión

Els que es dediquen a la política sanitària també necessiten "aliments per pensar", food for thought, o almenys així m'agradaria de creure-ho. Tinc la impressió que llegeixen poc i escolten encara menys als experts. En canvi, es basen en marcs mentals restrictius i sovint sectaris, fonamentats des de la premsa, aparells de partit i grups d'influència. No vull dir amb això que cal escoltar tots els experts i sempre, tant sols vull dir que és una veu a considerar. I tampoc vull dir que tots els polítics són iguals.

Però si hi ha una reflexió de política sanitària del moment que no pot passar per alt és la que fan Meneu-Ortún-Urbanos en aquest llibre. Cal comprendre bé com l'epidèmia ha capgirat les decisions i quines conseqüències ha tingut i pot tenir. El llibre reflexiona serenament sobre tot plegat i si només hagués d'escollir un capítol, el 3 i una secció, agafaria la "3.5. Adhesión inquebrantable a la ‘gestión directa’: mal pronóstico". Allà expliquen amb prou detall un dels aspectes que no volen parlar els que es dediquen a la política sanitària, com millorar l'organització. I aquest és precisament l'aspecte crucial que caldria al sector públic. 

Al darrer capítol es fa èmfasi en la importància d'oferir informació al públic. I jo miro ara mateix la Central de Resultats i des de fa 4 anys no hi ha dades. Algú ha apagat l'estadística. I si fos només això. I ja no dic res més.

Llegiu-lo sencer, paga la pena, recomaneu-lo a qui correspongui. I tant de bo algú escolti i tingui impacte el que proposen.

Polític sanitari exhaust fent la becaina després de tant "food for thought"

Intel·ligència Artificial: i tot això qui ho paga?

Paying for artificial intelligence in medicine

A reimbursement framework for artificial intelligence in healthcare

Quan Josep Pla va anar a Nova York l'any 1955 va quedar impressionat pels seus edificis i llavors va preguntar: I tot això qui ho paga?. Doncs el mateix passa amb la Intel·ligència Artificial, cal preguntar-nos com ho pagarem quan s'aplica al sector salut. Fa 3 anys ja vaig parlar d'això. I si pensem en la Medicina com una ciència de dades - que també ho és- aleshores cal començar a dissenyar sistemes de pagament.

Imagineu un cas concret, l'apnea de la son, i la nova tecnologia diagnòstica IA. Cal pensar que la tasca feta pel metge, que ara és tant sols de validació, perquè l'anàlisi de dades i diagnòstic ja ve fet. Com es paga això?

Doncs aquest és el tema d'un article d'interès a Nature i encara que ja té uns dies, crec que paga la pena llegir-lo. Els missatges:

• PER-USE AI REIMBURSEMENT MAY LEAD TO OVERUSE
• FORGOING SEPARATE REIMBURSEMENT OF AI DEVICES
• INCENTIVIZE OUTCOMES INSTEAD OF VOLUME
• ADVANCE MARKET COMMITMENTS FOR NEW AI SOLUTIONS
• TIME-LIMITED ADD-ON REIMBURSEMENTS FOR NOVEL AI
• REWARD INTEROPERABILITY AND BIAS MITIGATION

Uns criteris que cal desenvolupar en detall per a cada aplicació diferent, perquè les implicacions que en resulten són diverses. Per exemple, en el cas anterior de l'apnea, cal aprofitar els augments de productivitat per compensar equilibradament l'especialista amb la tecnologia. Però d'aquí a pagar per cas seria un incentiu massa fort. I com sempre el primer que cal és conèixer l'efectivitat, sense això no hi ha incentiu necessari. Algú està avaluant aquestes tecnologies que ja són als nostres hospitals?

La opció de no prendre en consideració el sistema de pagament per la intel·ligència artificial pot tenir efectes no desitjats, alhora que aportarà confusió en quins són els factors que afavoreixen la productivitat i la qualitat. Convé impulsar aquesta qüestió ben aviat.

Tina Modotti al KBR

Les noves tecnologies a l'horitzó

 Emerging trends and technologies: a horizon scan for global public health

Health horizons: Future trends and technologies from the European Medicines Agency’s horizon scanning collaborations

Fa temps vaig parlar de la importància de conèixer quines són les tecnologies que s'apropen i com preparar-nos per fer-hi front i assumir-les o no. Ara l'OMS i l'EMA han fet aquest exercici i han publicat un paper que no diu massa cosa. Suposo que hi ha molts detalls que s'han guardat.

Convindria que els governs també assumissin aquest paper de previsió de les tecnologies que venen i avançar-se als esdeveniments.

L'assaig clínic mai vist per al cribratge del càncer

Li pregunto a Chat GPT sobre l'assaig clínic més gran en nombre de participants i em diu que és ASPREE, sobre l'aspirina i prevenció cardiovascular. I veig que Galleri, l'assaig clínic de GRAIL sobre cribratge de càncer al NHS hi ha 140.000 participants. I jo penso, això és molta gent i el Chat GPT4 no ho ha copsat. 

This is a trial in a large population in England to assess the performance and clinical utility of GRAIL’s multi-cancer early detection test when added to standard of care. Participants are randomized to either a test or control arm. The study teams remain blinded throughout the study. Participants who test positive will be referred for standard of care investigations and treatment in the National Health Service (NHS).

The study has enrolled approximately 140,000 people aged 50 to 77. Unless diagnosed with cancer, participants in both arms are asked to return for annual visits at approximately 12 and 24 months. All participants whether test positive, test negative or not tested will be followed for cancer and associated outcomes via linkage to NHS routine datasets.

Els detalls de l'assaig els trobareu aquí. I si voleu veure la validació, aquí. I mentrestant el regulador segueix pensant si autoritza la prova, resulta que ja es troba al mercat.

Health information, such as whether someone developed cancer and how it was treated, is collected from centrally held NHS records for up to 10 years after people’s first appointment. This allows the researchers to easily track people for whether they get cancer, even for people who may have moved home.

People who are diagnosed with cancer while they are taking part in the trial may not need to attend further trial appointments to give blood samples.

A quina data s'acaba l'assaig clínic no se sap del cert. Després de llegir tot això espero que se sàpiga quina és la sensibilitat i especificitat de la prova segons càncer detectat. Dic això perquè no he sabut veure com s'avaluen els falsos negatius, ni els falsos positius. I en un moment concret diuen que haurem d'esperar 10 anys. No ho sé, potser m'ha passat per alt.

Més detalls, aquí.

Mentrestant la Unió Europea ha prohibit la fusió Illumina-Grail, i ja veurem com acaba. Per ara els mesos passen i res de res...

Galleri, el test detecta (diuen) 50 tipus de càncer amb una gota de sang que cerca ADN circulant per 1.000€ (diuen, diuen).

Més d'un i més de dos volen saber si estem davant d'un nou cas Theranos, (jo vull pensar que no) i per això han començat aquest assaig clínic. A FT del dijous hi ha més detalls. I ho fan a UK perquè a Europa aquesta empresa hauria d'estar prohibida fins que no compleixi les resolucions de les autoritats.

IA pertot arreu (4)

 The AI Revolution in Medicine: GPT-4 and Beyond

Si voleu comprendre que és el GPT-4 i les seves implicacions a la medicina, aquest és el llibre que heu de llegir per ara.

Parla amb llenguatge clar de com pot ser utilitzat a la pràctica mèdica i com també els pacients poden extreure conclusions del llenguatge dels informes mèdics. Sorprenent. I també amb riscos de mala interpretació. Tot plegat ho trobareu dins amb molts exemples.

Un disbarat rera l'altre (6)

 La salut mental i l’autonomia personal a Catalunya. Informe sectorial

Miro l'informe  del govern i em diu que el sector de la salut mental mou 9.244 milions € a Catalunya cada any. El 3,79% del PIB català. I jo em pregunto, si el 2020 estàvem al 9,2% de despesa sanitària sobre PIB, això vol dir que més d'una tercera part es dedica a la salut mental?. Si fos així realment seria una xifra per reflexionar. I ho dic per a tots aquells que diuen que no es dediquen recursos a la salut mental. 

Realment penso que no és així, no puc contrastar l'origen de les dades (falta de transparència) però aquí han sumat naps i cols. I després veig que la farmàcia és el 48% d'aquesta despesa, 4.457 milions €. I això ja no pot ser. Catalunya va gastar 4.592 milions € en farmàcia el 2021. No pot ser de cap manera. Hem gastat gairebé tant en farmàcia per la salut mental com el total que hem gastat per totes les malalties!!!. Bé llavors alguns diran que es la indústria catalana exportadora, però tampoc surten els números per enlloc.

No vull entrar en més detalls, només suggerir-vos que podeu estalviar-vos de llegir-lo. I que sobretot, que l'agència que fa aquests informes deixi de fer-los amb diner públic o els someti a una revisió profunda abans de publicar-los una altra vegada i a un exercici de transparència de les dades utilitzades.

Anastasia Samoylova al KBR

La necessària jerarquia dins l'organització

 Why Managers Matter: The Perils of the Bossless Company

De la mateixa manera que el novelista s'enfronta a un moment crític davant un full en blanc, els que fan les revistes i llibres de gestió els passa el mateix. La diferència és que el primer pot crear i li agraïm, mentre que els segons acaben farcint de contingut divers i sovint poc consistent. El resultat el sabem, les revistes de gestió diuen una cosa i la contrària al mateix temps. Que si la jerarquia organitzativa està bé i que l'organització plana i líquida també. I d'aquí no en sortim.

Fa temps que intento esquivar les modes i tendències del moment que reflecteixen aquestes revistes. Cal accedir a treballs ben fonamentats per tal de fer-se una idea clara del que significa l'economia de l'organització. I en aquest sentit el llibre de Nicolai Foss i Peter Klein s'agraeix davant tant desori de gurús de la gestió. Jo en diria que és el llibre que necessitàvem per tal que els directius s'enfrontin a la tasca de trobar una millor coordinació i cooperació dins l'empresa.

El capítol 10 és especialment aclaridor, un paràgraf diu:

The message of thinkers from Max Weber to Chester Barnard, Ronald Coase, Alfred Chandler, Herbert Simon, and Oliver Williamson is that hierarchy and skilled managers coordinate work better than can be done with any other method, including unstructured, bottom-up, spontaneous coordination. But this conclusion does not lead to a call for super-powerful managers or micro-management. On the contrary, the basic thrust of these classic works is that the level and kind of management needed depends on various contingencies. The ability to figure out these contingencies and how best to respond by incentivizing and evaluating employees, delegating (or centralizing) decisions, making people work well together, and deciding whether to rely on fixed procedures or go with the flow, is what separates the good managers from the bad ones.

Doncs queda clar, missatge diàfan per qui el vulgui escoltar. I només un detall, s'obliden de les organitzacions on el professionalisme hi té un paper clau. És el cas de la sanitat. Convindria un capítol que posés un matís necessari sobre els mecanismes d'organització en aquests casos, és una contingència clara a considerar.

La integració assistencial pendent

 Integrating Care to Prevent and Manage Chronic Diseases

Ja fa 17 anys que vaig coordinar un llibre sobre la qüestió que ens ocupa. Ara l'OCDE també ha produït informació actualitzada de casos per saber on som. Al capítol 4 hi trobareu l'experiència d'hospitalització a domicili de Catalunya. Diu que aporta satisfacció als pacients, millora de la qualitat, i que estalvia 6 € a l'any per persona, el 0,004% diu. Jo del cert no ho sé. El que si sé és que la integració assistencial de la que parlàvem era una altra cosa. No es tracta de substituir hospital per casa, ja que si això és eficient és el que cal fer. Integració significa coordinació entre tots els que participen al procés assistencial i per això cal un model organitzatiu i uns incentius. I aquest encara és un camí molt llarg per recòrrer. Els recursos encara estan assignats per nivells, i les organitzacions integrades de veritat són molt poques. Els hospitals són hospitals i l'atenció primària lluita pel seu pressupost. I així continúa 17 anys després que vam dir que calia un canvi organitzatiu profund.

En qualsevol cas convé llegir l'informe i veure què se´'n pot aprofitar.

La regulació farmacèutica a Europa

Reforma de la legislación farmacéutica de la UE Medicamentos asequibles, accesibles e innovadores

Documents

Ja ha aparegut la proposta de reforma de la regulació europea dels medicaments. Que es necessiten reformes és prou sabut, ara bé que qui fa les reformes no n'assumeixi els costos aleshores fa dubtar de moltes coses. Parlar de millor accés a medicaments també vol dir més recursos i això depèn de cada estat.

Cal llegir tots els documents en detall, i això suposa molta estona. Encara no ho he fet, però és una tasca pendent més.

La nova amenaça a la confiança en el sistema de salut

A cyber resilient health and adult social care system in England: cyber security strategy to 2030

Enmig de la crisi de ciberseguretat hospitalària que vivim el goven ha anunciat una gran auditoria i mesures al respecte. Normal. La pregunta és com és possible que no hi hagués una estratègia al respecte. Hi havia petites peces però cap engranatge. Els britànics han publicat la seva estratègia no fa massa i crec que és bo fer-hi una ullada. Precisament ara és quan convé dedicar molts esforços a una qüestió que pot minar la confiança en el sistema de salut i en la privacitat de les dades que utilitza.

Ilse Bing al KBR. Paris en una capsa 1952

Recomanar és gratis

 Contraprestació per resultats: programes, indicadors, component territorial i transversalitat

Llegeixo aquest informe sobre compensació per resultats i em pregunto, només fent una revisió sistemàtica es pot arribar a recomanacions?. Quan es revisa la literatura, el que es fa és conèixer com s'ha aplicat un tema i quins resultats ha obtingut. Però en aquesta qüestió hi ha una variable molt important, no pots analitzar els incentius sense entendre l'organització a la que s'apliquen. Els mateixos incentius a formes organitzatives i entorns diferents aportaran resultats diversos. És per això que recomanar és gratis, sembla. Però les implicacions posteriors potser no ho seran.

En aquest blog hi ha moltes entrades relatives a la qüestió. I em vaig oblidar de posar l'article de referència que encara que han passat els anys és prou il·lustrador: Posibilidades y limitaciones de la gestión por resultados de salud, el pago por objetivos y el redireccionamiento de los incentivos. Informe SESPAS 2008. Cal dir que els autors d'aquest informe també se n'han oblidat de posar-ho a la revisió sistemàtica. Malgrat els anys que han passat cal rellegir-lo perquè té tots els ingredients que ha de tenir.

I després un apunt sobre la primera recomanació. Diu que cal incentivar a grups no a persones. Desconec d'on surt això, i si un pot imaginar uns resultats excel·lents de grup sense tenir en compte els individus i que dins d'ells es produeix el problema dels aprofitats (free-riders) quan es retribueix al grup. Es pot trobar a la primera lliçó d'un curs sobre organització i incentius, també en aquest llibre. I després més endavant no troben incentius territorials als articles revisats, és evident que no n'hi hagin perquè els territoris no es posen malalts són les persones (!). I aquí m'aturo.

En definitiva, suggereixo mirar un clàssic, i una revisió sobre incentius individuals a la OCDE, que serveixi per a una nova versió publicable i sobretot, que les recomanacions no siguin aplicades al sistema sanitari públic català.

PS. No comentaré res respecte aquest document.

PS. No comentaré res respecte aquest document.

PS. No comentaré res respecte aquest document.

PS. Us imagineu un sistema d'incentius que proposi com indicador: IRS_AP24: Percentatge de professionals dels equips que usen la eConsulta.  Té sentit això?

PS. El més recent és a 2021.

El penya-segat de les patents

Ens trobem en moments d'incertesa per la propera pèrdua de patents a la indústria farmacèutica. No és pas nou, fa una dècada ja en vaig parlar perquè va passar exactament el mateix. Ara caldrà veure quina és la reacció. I la millor forma de resoldre el futur, és comprar-lo. Així és. Si no has fet els deures en R+D o si els has fet i fracassat, aleshores el que et queda es comprar medicaments potencials en fase II que permetin sortir airosos de la situació. Elemental. Just això és el que alguns estan decidint i comprant a preus desmesurats ara mateix. La factura la pagarem després tots plegats. 

Un disbarat rera l'altre (5)

 Projeccions de població per a la planificació sanitària 2021-2046. Adequació de les projeccions de població de l’Idescat a les distribucions territorials sanitàries

A Catalunya hem decidit que el sistema de salut obligatori és fruit de les decisions públiques i no del mercat. En aquests casos el que cal és un instrument que substitueixi els preus, i aquest és la planificació sanitària. I en la mesura que cal planificar, llavors convé fer-ho bé. I per fer-ho bé cal començar pel principi, que és preguntar-nos quina és la població a oferir serveis ara i en el futur.

Doncs bé, si hi ha una cosa en la que tots podem estar d'acord és que les previsions de població han estat sistemàticament un desgavell, massa sovint s'han estimat a la baixa. I el resultat ja sabem quin és, tenim una infradotació d'equipaments, no pas en salut, sinó en tots els serveis públics.

Per exemple, agafem la previsió de Catalunya feta al 2013 per al 2026, a l'escenari màxim ens diu que serem 7,94 milions. A data d'avui ja som 7,74. I llavors el Departament de salut fa la seva estimació per a poder planificar i es troba que sistemàticament les persones que consten al Registre Central d'Assegurats difereixen de la població IDESCAT, per més o per menys. I llavors cal preguntar-se, en què quedem, qui té raó? Quants habitants som realment? Com podem planificar si no sabem ni els que som, i encara menys els que serem?

Doncs amb aquesta incertesa és amb la que ens movem. La incertesa sobre el futur és molt comprensible, ara bé, la incertesa sobre l'avui ja no la podem acceptar quant fa anys que passa sistemàticament. Que algú ho aclareixi si us plau.

El resum del desgavell en una taula (p68):

PS. I després em pregunto, com podem planificar els serveis de 134.733 persones que les tenim registrades com assegurades si no sabem el domicili i any rera any són més?. Podeu contrastar aquesta dada aquest document oficial (p.30).