Medical AI has a proof problem
Resum de l'article de FT del 18 de setembre.
Aquest article del Financial Times, escrit per Sarah Neville, analitza la bretxa existent entre els grans avanços teòrics de la intel·ligència artificial (IA) en la medicina i el seu impacte real en la millora de la salut dels pacients
1. El "problema de prova" (Falta d'evidència clínica real)
- Tot i les promeses i grans expectatives de la IA per agilitzar diagnòstics i reduir la càrrega de feina dels metges, hi ha molt poques proves que realment millorin la salut dels pacients o la seva evolució clínica
. - Moltes eines s'implanten als hospitals sense estudis previs suficients en entorns de treball reals, generant de vegades alertes falses o innecessàries que acaben frustrant el personal mèdic
.
2. Dèficit de transparència i dades
- Existeix una falta de claredat per part dels desenvolupadors sobre quines dades han utilitzat per entrenar els seus models i quina metodologia han seguit per validar-ne l'eficàcia
. - Sovint les empreses presenten dades de rendiment en entorns de laboratori controlats, però no aconsegueixen replicar aquests resultats en el món real, ja que no s'ajusten a la complexitat del dia a dia hospitalari
.
3. Regulació i aprovacions laxes
- Un estudi citat de la Universitat de Stanford revela que la FDA (EUA) va autoritzar 258 dispositius mèdics de IA fins al 2025, de les quals només un 2,4% comptaven amb dades d'assaigs clínics rigorosos
. - Gran part de la documentació presentada a l'administració està basada en "estudis de laboratori" aportats pels mateixos fabricants, que sovint no són fàcilment verificables ni aplicables
.
4. Riscos de biaix i desigualtat
- Si els algoritmes d'IA s'entrenen amb dades que no representen bé la diversitat de la població, poden perpetuar o empitjorar les desigualtats en l'atenció sanitària
. - Es destaca l'exemple d'algoritmes de gestió de recursos que van subestimar les necessitats de pacients de minories o que no parlaven anglès
.
5. La necessitat d'un canvi de model
- Els experts i metges reclamen un canvi de direcció: en lloc de centrar-se en "l'efecte sorprenent" de la tecnologia, cal posar el focus en demostrar un benefici clínic real, avaluar-ne l'impacte en la salut i protegir les dades dels pacients
.
